La FM en Google News
El especialista en inteligencia artificial Elisandro Santos advirtió en La FM que esta tecnología podría alcanzar un proceso de automejora que la lleve a superar la inteligencia humana, y propuso una regulación que no frene su avance, pero que incluya protecciones para los menores de edad.
¿Qué es la singularidad de la inteligencia artificial?
Santos explicó que su temor es que la inteligencia artificial consiga el proceso de automejora, conocido como "la famosa singularidad". Según indicó, ocurre cuando el sistema llega a un punto en que se mejora a sí mismo y se vuelve "mucho más inteligente que nosotros", por lo que sus acciones escapan al conocimiento humano.
Para ilustrarlo, comparó la situación con un niño pequeño al que hoy se alimenta y se le enseña cómo funciona el mundo. Indicó que, cuando ese niño cumpla 18 años, no se sabe si "nos va a querer o nos va a dar la espalda".
¿Por qué hay una carrera global por la inteligencia artificial?
El entrevistado afirmó que existe una competencia geopolítica entre Estados Unidos y China por liderar esta tecnología. Señaló que el presidente Donald Trump sostiene que es "una cuestión ya de seguridad nacional" y que no se puede frenar el avance, por temor a que China continúe avanzando mientras Estados Unidos se detiene por regular.
Santos sostuvo que los presidentes de Estados Unidos y China "están con la mentalidad de acelerar, no de frenar". Añadió que en la Casa Blanca las empresas de Estados Unidos acordaron una autorregulación, que describió como "simplemente un acuerdo común entre las partes". Precisó que esto no implica una penalidad si algo se incumple.
Por eso, dijo, se necesitaría "una especie de comité internacional" que valide y audite a las compañías, de manera similar al tratado nuclear firmado entre diferentes países.
¿Cuáles son los riesgos de la inteligencia artificial?
Santos afirmó que "el riesgo es una realidad" y advirtió sobre el uso que le dan personas malintencionadas. Citó que Anthropic frenó a cinco investigadores que empleaban la herramienta para "doble uso": una información que puede servir para evitar una pandemia, pero también para generar un virus nuevo.
Sobre la afirmación de Bill Gates de que la inteligencia artificial podría causar un millón de muertes, aclaró que no es "un escenario del momento de ahora", sino "un caso hipotético". Mencionó como usos las armas biológicas, las armas autónomas, el hackeo, las estafas y los deepfakes.
Indicó que existen sistemas en los que la herramienta notifica a la empresa cuando alguien la usa de forma incorrecta o busca términos peligrosos, y que esa información se deriva a las partes competentes. Afirmó que las herramientas deben tener más controles para mitigar el riesgo.
¿Deben los menores de edad usar inteligencia artificial?
Santos señaló que la UNESCO indica que "menores de 13 años no deberían utilizar la inteligencia artificial" y que la mayoría de los estudios indican que la inteligencia artificial generativa no sería buena para ellos. Explicó que los menores deben desarrollar su capacidad de pensamiento y razonamiento, y que delegarlo en la máquina los daña.
Indicó que hoy se puede hacer una pregunta a una herramienta de inteligencia artificial sin registrarse, y que estos sistemas tienen alucinaciones: "comete errores". Planteó qué ocurre si un menor recibe información errónea y no entiende que se trata de un error, o si pone su vida en riesgo, y afirmó que eso no se está discutiendo.
Sobre la regulación, Santos propuso "pararnos en el medio": crear una norma "que no frene el avance" y que proteja, por ejemplo, a los niños. Mencionó que la tecnología impacta en la salud.
*Este contenido fue escrito y producido por una inteligencia artificial bajo supervisión y curaduría de un periodista de La FM.
