Manifiesto de Mark Zuckerberg afirma que no existe una "super-inteligencia benevolente única"
En un extenso manifiesto publicado el lunes titulado El futuro es para todos: El camino hacia un futuro positivo de la IA, el director ejecutivo de Meta, Mark Zuckerberg, expuso su filosofía sobre la super-inteligencia, advirtiendo contra la concentración de la tecnología en manos de unas pocas instituciones, gobiernos o incluso de los propios sistemas de IA.
Aunque predice un futuro en el que los agentes de IA estarán totalmente personalizados para cada usuario, el multimillonario tecnológico de 42 años cree que una super-inteligencia única y centralizada no puede servir a los intereses de todos. El único camino realista hacia la seguridad, dijo, es distribuir ampliamente la super-inteligencia personal para que los individuos y los agentes de IA competidores creen controles y equilibrios naturales.
[Estamos en WhatsApp. Empieza a seguirnos ahora]
En una aparente indirecta a líderes tecnológicos como Elon Musk y el director ejecutivo de OpenAI, Sam Altman, quienes han advertido rutinariamente sobre posibles escenarios de IA descontrolada al estilo “Terminator”, Zuckerberg no comparte esas preocupaciones.
Reciba GRATIS nuestras últimas noticias
“Aun así, es sorprendente que el discurso de muchos que desarrollan IA esté tan lleno de pesimismo. No entiendo por qué alguien que cree que la IA eliminará la mayoría de los empleos y gran parte de la relevancia de la humanidad se apresuraría a construir ese futuro”, escribió. “La noción de que la IA es tan peligrosa que el único camino seguro es una concentración extrema de poder parece intrínsecamente problemática. Históricamente, esperar que un poder absoluto provea benevolentemente a la humanidad si está suficientemente iluminado no ha conducido a resultados seguros o positivos”.
En cambio, Zuckerberg advirtió que el esfuerzo por construir una super-inteligencia teórica de IA —un resultado que ha descartado en el pasado— supondría en sí mismo la mayor amenaza.
“No existe una solución tecnológica que pueda alinearse con los intereses y valores opuestos de todos a la vez”, escribió. “Cualquier super-inteligencia única tendría que priorizar unos valores sobre otros y, en el proceso, sería incapaz de ser benevolente con todos”.
Como parte de su advertencia, Zuckerberg —quien fue criado como judío, se identificó una vez como ateo y ahora dice que cree que la religión es “muy importante”— afirmó que si el “poder de la super-inteligencia está en manos de un pequeño número de individuos, empresas, gobiernos o de la propia IA, entonces eso conducirá naturalmente a resultados menos favorables para todos los demás”.
Zuckerberg declaró entonces: “No existe tal cosa como una super-inteligencia benevolente única”.
Ateos y agnósticos como Neil deGrasse Tyson han utilizado un lenguaje similar para afirmar que la falta de benevolencia en la realidad observable es una prueba en contra de la existencia de Dios.
Sin embargo, apologistas cristianos como Ken Ham, director ejecutivo del Museo de la Creación, argumentan que los humanos —y no Dios— son los responsables de lo que es un mundo “caído”.
Aunque el manifiesto de Zuckerberg respalda en gran medida la descentralización de la IA, también sugirió que la humanidad podría algún día perder el control sobre ella “hasta el punto de que, en el mejor de los casos, ya no sirva a los intereses de la humanidad y, en el peor, ponga a la humanidad en peligro”.
Su solución: dar a las personas su propia IA “super-inteligente” personal.
“La clave para un futuro positivo para todos es lograr un equilibrio de poder que favorezca a los individuos”, escribió. “La solución es garantizar que la super-inteligencia se distribuya ampliamente para empoderar a las personas”.
Y añadió: “Un equilibrio de poder saludable consiste en garantizar que no exista una super-inteligencia única y centralizada, sino que el mayor número posible de personas y empresas dispongan de diferentes agentes super-inteligentes alineados con sus objetivos que se controlen y compitan entre sí de la misma manera que se comporta nuestra economía natural”.
En 2024, Zuckerberg desestimó los comentarios de Altman, Musk y otros que advertían sobre el surgimiento de un “dios digital” a causa de la IA, diciendo que ese no es el objetivo de la tecnología.
“Me parece bastante desagradable cuando la gente de la industria tecnológica [...] habla de construir esta ‘única IA verdadera’”, dijo Zuckerberg durante un podcast en 2024. “Es casi como si pensaran que están creando a Dios o algo así [...] Eso no es lo que estamos haciendo. No creo que esto vaya a terminar así”.
Ian Michael Giatti, un veterano profesional de los medios de comunicación y el entretenimiento, es también un experimentado líder ministerial cuya principal pasión es enseñar la Palabra de Dios a públicos de todas las edades. Además de su carrera en el periodismo audiovisual y digital, Ian ha sido maestro de escuela dominical, ha desempeñado funciones de liderazgo ministerial y ha dirigido estudios bíblicos para reclusos y personal de cárceles locales. Tras abandonar California durante la pandemia de COVID-19, Ian, su esposa y sus cuatro hijos son ahora orgullosos tejanos.
Ian M. Giatti es reportero de The Christian Post. Se le puede contactar en: ian.giatti@christianpost.com.
