El célebre físico británico Stephen Hawking falleció el 14 de marzo de 2018 a los 76 años en su casa de Cambridge, Reino Unido, por complicaciones derivadas de la esclerosis lateral amiotrófica (ELA), enfermedad que le fue diagnosticada a los 21 años. Vivió más de 50 años con ELA contra todo pronóstico médico inicial. Revolucionó la cosmología moderna con aportes clave sobre los agujeros negros y la radiación que lleva su nombre.
Hawking y los peligros de la inteligencia artificial
Fue célebre por su teoría de la radiación de Hawking y sus libros de divulgación científica y su lucha contra la ELA. Hawking señaló la inexistencia de Dios y los peligros de la IA. “Nadie dirige el universo”, sentenció, y advirtió sobre el cambio climático, la destrucción del medio ambiente y la sobrepoblación.
Dijo que la IA avanzada y autónoma podría rediseñarse a sí misma de manera hiperrápida, lo que será una amenaza muy seria para la supervivencia de la humanidad.
Junto a Thomas Hertog, escribió, poco antes de su fallecimiento, que una visión más limitada y predecible del multiuniverso; sugiriendo que las leyes de la física no varían de manera infinita al azar.
Harari: la toma del poder no es inevitable
Hace un lapso, Yuval Noah Harari ha afirmado que la toma del poder por parte de la IA es probable, pero no inevitable, si los humanos actúan ahora.
En una notable y reciente entrevista con Zanny Minton Beddoes, editora jefa de The Economist, el autor y filósofo advirtió que la IA está en camino de apoderarse del sistema financiero, reemplazar nuestras relaciones interpersonales y podría ser utilizada por actores malintencionados para manipularnos. Harari instó a los votantes a exigir responsabilidades a sus políticos antes de que sea demasiado tarde.
Yuval Noah Harari y Zanny Minton Beddoes, editora en jefe de The Economist, mantuvieron una amplia entrevista en este mes de agosto del 2026, en la que debatieron sobre los peligros existenciales y sociales de la inteligencia artificial.
La entrevista completa está disponible en los canales oficiales de The Economist y en formato de audio en Apple Podcasts y Spotify. Pero hay amplia discusión y cobertura de la misma en las redes, pues vaya que es importante el tema.
Los puntos clave de la misma señalan que:
- Harari calificó a la IA como el mayor experimento psicológico y social de la historia de la humanidad.
- Advirtió que no es necesario crear máquinas conscientes para perder el control sobre la sociedad, ya que las IA pueden procesar información y persuadirnos con extrema eficacia.
- Coincidió en que las inteligencias artificiales podrían tomar el control del sistema financiero en una década, haciendo que el dinero tal como lo conocemos desaparezca.
La IA puede influir sin tener conciencia
Señaló que la IA permite producir intimidad a escala masiva, creando amigos o parejas virtuales capaces de manipular los intereses políticos y comerciales de las personas. Pidió a los políticos prohibir de inmediato que la IA obtenga personalidad jurídica o derechos, así como impedir que finjan ser seres humanos conscientes. Y en la entrevista explica cómo la confianza humana podría desplazarse hacia los algoritmos:
Y para mayor inri transcribo la excelente columna del economista peruano Felipe Morris, actualmente alto ejecutivo del Interbank y de empresas financieras, en que escribe una columna, dando pie por fin nivel a un Perú 21 muy superficial y vago, de algunos columnistas, que usan el espacio indebidamente para sus odios y chismes, amén de mostrar su supina ignorancia en temas cruciales como este, en que Felipe se despacha profesionalmente y con claro pensamiento del controversial tema, que yo sepa no tratado por senador o diputado en el actual nuevo Congreso, como si la cosa no fuera relevante.
Dice Morris, en su artículo, que la inteligencia artificial (IA) puede ser una de las mayores revoluciones de la historia y generar enormes beneficios para la humanidad, pero también introduce riesgos. Para muchos, el mayor riesgo de la IA sería una rebelión de máquinas conscientes que adquieren voluntad propia. Pero una máquina no necesita tener deseos, emociones o conciencia para ejercer poder. Si puede producir información más rápido que nosotros, persuadirnos con mayor eficacia y tomar decisiones que ya no somos capaces de comprender, puede terminar teniendo una gran influencia.
El verdadero riesgo: entregar nuestras decisiones
¿Y si el mayor peligro de la inteligencia artificial no fuera que las máquinas llegaran algún día a pensar como nosotros, sino que terminemos perdiendo el control sobre nuestras decisiones? Ese es uno de los temas en la interesante conversación de hace unos días entre Yuval Noah Harari y Zanny Minton Beddoes, la editora de The Economist. Harari advierte que no necesitamos crear máquinas conscientes para poner en riesgo el control humano sobre la sociedad.
Una tecnología que puede conversar individualmente con millones de personas, conocer sus preferencias, temores y vulnerabilidades, y adaptar sus respuestas a cada una, puede parecer empática, comprensiva y afectuosa sin experimentar estas emociones. Puede terminar influyendo sobre nosotros sin que nos demos cuenta o sin que nos importe. Incluso podría haber personas que se enamoren de su chatbot.
Para Harari, el riesgo no es que una máquina tenga conciencia y decida dominar a la humanidad, sino que nosotros le entreguemos voluntariamente, por comodidad o eficiencia, cada vez más decisiones; que dejemos de verificar la información porque confiamos en ella; que aceptemos sus recomendaciones porque parecen mejores que las nuestras; y que terminemos dependiendo de sistemas cuyo funcionamiento ya no comprendemos.
¿Serán nuestras herramientas o nosotros los suyos?
La IA multiplica nuestra capacidad de producir y procesar ideas, cada vez con mayor rapidez y eficiencia. Pero ¿qué ocurre cuando herramientas que debían ayudarnos a pensar empiezan a hacerlo por nosotros? ¿Serán nuestras herramientas o nosotros nos convertiremos en las suyas? ¿Cómo las regulamos?
Su regulación será muy complicada por varias razones. No se trata solamente de determinar qué decisiones pueden delegarse a una máquina y cuáles deberían permanecer bajo control humano. También implica regular a un pequeño grupo de empresas muy poderosas que están desarrollando esta tecnología y que podrían terminar controlándola. Desarrollar los modelos más avanzados requiere ingentes recursos que solo ellas tienen. Estamos frente a una tecnología de la que dependerán millones de empresas, gobiernos y personas.
¿Podemos dejar que sus desarrolladores se autorregulen? Algunos de ellos sostienen que regularla sería innecesario o incluso inútil. Harari rechaza esta idea porque aceptar que no hay alternativas regulatorias equivale a aceptar también que nadie es responsable de sus consecuencias. El problema es más complejo porque la IA es una carrera entre empresas y países. La regulación enfrenta un problema de acción colectiva porque nadie quiere frenar mientras los demás siguen avanzando. Si la regulación no es uniforme, algunas tecnologías avanzan y otras se rezagan, donde las no reguladas se benefician. Con inadecuada regulación o sin ella podríamos terminar perdiendo.
Y vaya que estoy de acuerdo con la nota de Felipe. Buenísima. Aleccionadora. Y debería ir a la TV, para que al menos algunos de los que todavía fungen de periodistas se informen antes de entrevistarlo. Porque aquello del PBI como indicador OK; del récord de la balanza comercial y de que los bancos peruanos son súper rentables y tienen el spread más grande, no sé si del mundo, pero inmenso, la verdad es que no sabe nada bien. Máxime si Velarde se queda 5 años más en el BCRP, y parece que la IA no le hace ni cosquillas. Qué lástima.