La FM en Google News
La inteligencia artificial atraviesa una etapa de expansión acelerada que ha generado tanto expectativas sobre sus capacidades como advertencias sobre los riesgos que podría representar para la humanidad. Las declaraciones de Jacob Coxon, un investigador británico de 27 años que trabajó en OpenAI y Anthropic, que alertan sobre posibles escenarios de extinción han alimentado el debate acerca de hasta dónde debería llegar el desarrollo de esta tecnología y quién debe establecer sus límites.
En entrevista con La FM, Luis Guillermo Martínez Ballesteros, PhD, consultor internacional y experto en gobernanza de la inteligencia artificial, llamó a evitar una mirada exclusivamente catastrofista y enfocarse en los riesgos que ya son tangibles. Para el especialista, los gobiernos, las empresas y la sociedad deben participar en la definición de controles antes de que los sistemas alcancen mayores niveles de autonomía.
El control de la inteligencia artificial debe comenzar ahora
Martínez Ballesteros considera que las discusiones sobre una eventual pérdida de control de la inteligencia artificial no pueden limitarse a escenarios futuros. A su juicio, ya existen situaciones concretas relacionadas con ciberataques y problemas generados por sistemas de IA que deberían impulsar medidas de prevención.
“En lugar de quedarnos únicamente en el número o en el potencial riesgo que esto puede llegar a representar a futuro, creo que [...] debemos enfocarnos en lo que está actualmente, en lo que digamos es tangible”, explicó.
El experto sostuvo que el desarrollo de estas tecnologías no debería quedar exclusivamente en manos de las compañías que las crean. La regulación, según su planteamiento, debe convertirse en una discusión colectiva, en la que participen gobiernos, organismos internacionales y ciudadanos.
“Creo que en lo que debemos pensar es no simplemente pensar en el escenario catastrófico y simplemente dejarnos llevar por esa situación y decir, bueno, es una verdad cumplida, no hay nada que hacer, sino tomar un poco la responsabilidad acerca de lo que está ocurriendo”, señaló.
Frente a la posibilidad de que una inteligencia artificial llegue a controlar sistemas críticos, como infraestructura de defensa, Martínez Ballesteros evitó descartar completamente ese escenario, pero insistió en que todavía existen mecanismos para intervenir sobre su desarrollo.
“Lo que sí podemos hacer en este caso es tratar de tomar las medidas necesarias para evitar que estos posibles escenarios de riesgo se materialicen”, afirmó.
Más autonomía no significa perder el control
El especialista reconoció que la autonomía de la inteligencia artificial continuará aumentando, al igual que su capacidad para procesar información. Sin embargo, advirtió que superar determinadas capacidades humanas no significa necesariamente que estas tecnologías posean conciencia.
“Autonomía está ganando y va a ganar y es parte del proceso del desarrollo de la inteligencia artificial”, dijo.
Martínez Ballesteros recordó que la tecnología ya ha demostrado que puede superar a los seres humanos en determinadas tareas, como ocurrió con Deep Blue y el ajedrez, pero señaló que la inteligencia no puede reducirse únicamente a procesar información.
En ese sentido, explicó que la sociedad todavía puede establecer límites sobre el nivel de autonomía que tendrán estos sistemas. “Autonomía va a aparecer. Pero también es cierto que la autonomía en este escenario es algo que nosotros también podemos determinar y definir”, sostuvo.
Para ilustrarlo, comparó el desarrollo de la IA con la educación de un niño, bajo la idea de que una mayor autonomía puede convivir con límites éticos establecidos desde el comienzo. “Es importante actuar. No podemos dejar a la inteligencia artificial actuar de manera autónoma, sin control y sin supervisión nuestra”, concluyó.
Bloque de preguntas y respuestas
¿Qué riesgos de la inteligencia artificial preocupan a los expertos?
Los principales riesgos mencionados están relacionados con ciberataques, autonomía de los sistemas y posibles usos de la IA en infraestructuras críticas. Estos escenarios requieren medidas de prevención y control.
¿La inteligencia artificial puede volverse autónoma?
Sí. La autonomía de la inteligencia artificial seguirá aumentando como parte de su desarrollo tecnológico. Sin embargo, actualmente existen posibilidades de establecer límites y mecanismos de supervisión sobre su funcionamiento.
¿La inteligencia artificial ya supera la inteligencia humana?
La IA puede superar capacidades humanas específicas, especialmente en procesamiento de información y determinadas tareas. Esto no significa que tenga conciencia o que su inteligencia sea equivalente a la humana en todos los aspectos.
¿Cómo se debe regular la inteligencia artificial?
La gobernanza de la inteligencia artificial requiere la participación de empresas, gobiernos y organismos internacionales. El objetivo es establecer controles que reduzcan los posibles escenarios de riesgo asociados con su desarrollo.
¿Por qué es importante controlar la inteligencia artificial ahora?
El desarrollo actual de la IA todavía permite establecer límites, controles y mecanismos de supervisión. Por ello, la prevención puede implementarse antes de que aumenten los niveles de autonomía de estos sistemas.
