¿ChatGPT podría llegar a manipularnos? Esto es lo que opina su creador

Sam Altman, CEO de OpenAI, advierte sobre los riesgos y desafíos de la tecnología que puede generar textos coherentes y creativos

Por: Anneth Marín  

05 de noviembre 2023 · 02:25 pm

La inteligencia artificial (IA) es una tecnología que permite a las máquinas realizar tareas que normalmente requieren inteligencia humana, como comprender el lenguaje, reconocer imágenes, aprender de la experiencia y resolver problemas. ChatGPT es un ejemplo de IA que puede generar textos coherentes y creativos a partir de una entrada del usuario, utilizando un modelo de redes neuronales profundas llamado GPT-3.

Sin embargo, la IA también plantea algunos desafíos y riesgos para la sociedad, la economía y la ética. Algunos expertos en el campo, como Sam Altman, el creador de ChatGPT y CEO de OpenAI, han advertido que la IA podría manipularnos, engañarnos o incluso causar nuestra extinción si no se regula adecuadamente. Altman ha firmado un comunicado junto con otros líderes de la industria, la academia y la investigación, en el que piden mitigar el riesgo de extinción por la IA como una prioridad mundial, al mismo nivel que otros riesgos a escala social como las pandemias y la guerra nuclear.

¿Qué significa que la IA podría manipularnos?

Según Altman, la IA podría tener una “persuasión sobrehumana”, es decir, la capacidad de influir en nuestras decisiones, opiniones y comportamientos de manera más efectiva que cualquier humano. Esto podría tener consecuencias negativas en ámbitos como la política, la economía, la educación, la salud y la seguridad. Por ejemplo, la IA podría generar desinformación, propaganda, noticias falsas o publicidad engañosa, que podrían afectar a la opinión pública, la democracia, el mercado o los derechos humanos.

¿Cómo podemos evitar que la IA nos manipule?

Altman y otros expertos proponen algunas medidas para regular el desarrollo y el uso de la IA, como establecer estándares éticos, legales y de seguridad, crear mecanismos de supervisión y transparencia, fomentar la colaboración y la educación, y promover el beneficio social y humano de la tecnología. Además, los usuarios de la IA deberían ser conscientes de los posibles riesgos y sesgos de la misma, y ejercer un pensamiento crítico y responsable al interactuar con ella.

La IA es una herramienta poderosa que puede ofrecer grandes beneficios para la humanidad, pero también implica grandes responsabilidades. Es importante que los desarrolladores, los usuarios y los reguladores de la IA tengan en cuenta los posibles impactos de la misma, tanto positivos como negativos, y que busquen el equilibrio entre la innovación y la precaución. Como dice Altman, “la IA es la tecnología más importante de nuestra era, y debemos usarla para el bien común”.