IA y su caja negra, la razón que desconcierta a los expertos

“La realidad es que no lo entendemos completamente. No podemos explicar con precisión por qué el robot dijo esto o por qué se equivocó en aquello. Tenemos algunas teorías y nuestra capacidad para comprenderlo mejora con el tiempo”

Un grupo de ingenieros se encontraba trabajando en un programa de inteligencia artificial (IA) cuando, de manera inesperada, adquirió la capacidad de comprender un nuevo idioma.

Durante una reciente emisión del programa 60 Minutes de la cadena CBS, James Maneka, el jefe de la división de IA de Google, reveló: "Hemos descubierto que con muy pocas indicaciones en bengalí, ahora puede traducir todo el bengalí".

Al respecto, Sundar Pichai, CEO de Google, comentó que esta capacidad de los programas de IA para desarrollar habilidades o brindar respuestas inesperadas es lo que los expertos denominan la "caja negra".

"La realidad es que no lo entendemos completamente. No podemos explicar con precisión por qué el robot dijo esto o por qué se equivocó en aquello. Tenemos algunas teorías y nuestra capacidad para comprenderlo mejora con el tiempo. Pero hasta ahora, eso es lo que sabemos", señaló Pichai.

Las otras IA

El artículo titulado "Qué es ChatGPT, el revolucionario sistema de IA que preocupa a algunos expertos" destaca el rápido avance en el desarrollo de la inteligencia artificial en los últimos años.

Las grandes empresas tecnológicas están invirtiendo grandes cantidades de dinero para crear chatbots como Bard de Google, y ChatGPT de OpenAI y Microsoft. Incluso el multimillonario Elon Musk anunció recientemente su participación en esta carrera tecnológica.

Bard y otros chatbots, como ChatGPT, ofrecen respuestas a preguntas e instrucciones proporcionadas por los usuarios.

Sin embargo, los expertos en IA han advertido sobre los posibles riesgos si la tecnología no está controlada por sus desarrolladores, como el hecho de que adquieran habilidades para las que no fueron programadas.