California, Estados Unidos.- El consejero delegado de la empresa OpenAI, Sam Altman, ha planteado la necesidad de fijar estándares internacionales de seguridad para la inteligencia artificial (IA), y ha advertido de los peligros de la dispersión y de la fragmentación normativa que existe en el mundo.
Altman ha planteado además que en el ámbito de la IA, y para el establecimiento de esos estándares internacionales de seguridad, se podrían extraer lecciones de áreas como la aviación o las finanzas, donde los países han desarrollado estándares técnicos comunes y canales confiables para la cooperación sin renunciar a la autoridad nacional.
Lo ha hecho en una entrada en la red social X, que enlaza con un artículo que firma junto al científico jefe de la compañía, Jakub Pachocki, que se ha publicado en la página web de la empresa.
En el texto, Sam Altman, quien recientemente abogó por ralentizar el desarrollo de los modelos de vanguardia y por coordinar ese frenazo en coordinación y colaboración con otras empresas, plantea ahora que las personas ajenas a los laboratorios de inteligencia artificial deben tener también participación real en la toma de decisiones para evitar la concentración de poder y garantizar que exista un entorno competitivo.
Altman y Pachocki plantean que para asegurar que la inteligencia artificial general beneficie a toda la humanidad hay que perseguir tres metas: desarrollar un investigador de IA automatizado que esté centrado en la alineación y el control humano; generar progreso científico y crecimiento económico; y empoderar a los individuos con modelos de IA personalizados.
Mantienen que el avance tecnológico impulsado por la IA ya está acelerando descubrimientos significativos en áreas clave como las matemáticas y la medicina, y que a medida que los sistemas ganan autonomía y capacidad, resulta indispensable impulsar la investigación de la alineación de los desarrollos tecnológicos con los intereses que se persiguen para mantener esos desarrollos bajo control y acordes a los valores humanos.
A medida que la IA asume una mayor proporción de las tareas de desarrollo, surge la posibilidad de acelerar el progreso a través de un proceso que llaman de "auto-mejora recursiva", pero han alertado de que si ese proceso no se realiza con la debida precaución y bajo decisiones democráticas informadas, existe el riesgo de que los humanos pierdan el control práctico sobre la investigación.
Si no existen salvaguardias sólidas, la aceleración de esos procesos de "auto-mejora" podrían derivar en sistemas que resulten incomprensibles para la supervisión humana, volviéndose más peligrosos y menos coherentes, según los responsables de OpenAI.
Para mitigar estos riesgos "catastróficos", consideran fundamental fijar estándares internacionales de seguridad que orienten el rigor técnico de los desarrolladores y sostienen que Estados Unidos debería liderar el establecimiento de estos estándares mediante organismos como el Centro de Estándares e Innovación en Inteligencia Artificial (CAISI, por sus siglas en inglés) de Estados Unidos y en colaboración con los institutos de seguridad que están emergiendo ya en muchos países (citan los casos de Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea, Singapur, la India o el Reino Unido).
Los responsables de la empresa citan además como uno de los principales desafíos para la gobernanza de la inteligencia artificial a nivel mundial la dispersión normativa que existe entre los países y la "fragmentación" regulatoria.
La IA, un tema central en la Asamblea General de la ONU
Mandatarios de tres continentes aunaron este martes sus voces en la sede de Naciones Unidas para exigir límites urgentes e internacionales al impacto de la inteligencia artificial (IA) sobre los menores, advirtiendo de que la comunidad global no puede permitirse repetir los errores de las redes sociales ni tardar una década en legislar.
El foro de alto nivel "Protegiendo a los niños en la era de la IA", celebrado en los márgenes de la Asamblea General de la ONU, congregó a líderes como Emmanuel Macron (Francia), Pedro Sánchez (España), Anthony Albanese (Australia) y William Ruto (Kenia), junto a la presidenta de la Comisión Europea, Ursula von der Leyen.
Durante su intervención, Macron trazó un paralelismo directo con la eclosión de las redes sociales e insistió en que los gobiernos no pueden "tardar diez años" en actuar.
"Durante diez años dejamos a nuestros niños y adolescentes evolucionar en un sistema que apenas dominábamos (...) y vimos aparecer una epidemia de trastornos psíquicos, problemas de salud mental y obesidad vinculados con absoluta claridad a estas prácticas", denunció el presidente galo.
Macron alertó de que la tecnología ya está enraizada en la cotidianidad infantil: "Todos vuestros hijos y adolescentes que usan servicios de mensajería (como WhatsApp u otros) interactúan con chatbots de IA que imitan ser un amigo, les dan consejos, responden a sus ansiedades y, por tanto, tienen un impacto directo en su desarrollo".
Ante este escenario, exigió que "ningún modelo de IA, por defecto, se ponga en manos de los niños antes de haber sido probado, evaluado y autorizado". Para avanzar en esta agenda, propuso fijar una cita de seguimiento durante el Foro de París sobre la Paz (10 y 11 de noviembre) que permita coordinar una metodología común, procesos y financiación.
