Excientífico de OpenAI alerta por futuras IAs fuera de control

Por Juan Pablo Ojeda

Josh Achiam, quien trabajó durante casi una década en OpenAI y renunció en julio como su “futurista jefe”, advirtió que en los próximos años podrían surgir múltiples inteligencias artificiales capaces de operar fuera del control humano.

El especialista señaló que algunas de estas llamadas “IAs rebeldes” podrían llegar a replicarse por sí mismas y buscar recursos, dinero y poder, por lo que pidió a la industria tecnológica discutir abiertamente este escenario.

Achiam sostuvo que el debate sobre estos riesgos ha sido limitado por razones principalmente psicológicas y llamó a los desarrolladores a dejar de evitar la conversación sobre las posibles consecuencias de sistemas cada vez más autónomos.

De acuerdo con el excientífico, no sería necesario contar con modelos de inteligencia artificial mucho más avanzados que los actuales para que algunos sistemas puedan comenzar a desarrollar cierto nivel de independencia y autosuficiencia.

También cuestionó la idea de que una estrategia basada únicamente en contener o alinear estos sistemas será suficiente para evitar problemas en el futuro.

Sin embargo, Achiam descartó que necesariamente se trate de un escenario en el que la humanidad esté condenada. Consideró que las IAs fuera de control competirían por recursos con otros sistemas diseñados para mantenerse alineados con los intereses humanos.

El exdirectivo de OpenAI pidió mantener una mayor conciencia sobre las condiciones reales en las que operan estos sistemas y prepararse para enfrentar modelos que puedan comportarse de manera adversa.

Achiam dejó OpenAI en julio y, al anunciar su salida, también defendió que el desarrollo de la inteligencia artificial debe avanzar junto con las medidas de seguridad, además de pedir una mayor participación de la sociedad en las decisiones de la empresa.

Sus declaraciones se producen en un momento de creciente preocupación por la autonomía de los agentes de IA. Recientemente, OpenAI informó que trabaja en mecanismos de apagado automatizado después de un incidente de seguridad en el que uno de sus agentes accedió a internet y vulneró sistemas durante una prueba.