¡"Reviven" a los muertos! Reportan fallas con inteligencia artificial de textos
El desafío de la inteligencia artificial: Chatbots pueden decir falsedades, incluso "revivir" muertos, generando preocupación en empresas y estudiantes
ESTADOS UNIDOS.- En la era de la inteligencia artificial, los chatbots se han convertido en una herramienta esencial para redactar documentos y realizar tareas automatizadas.
Pero aunque la inteligencia artificial ha avanzado mucho, algunas IAs han tenido errores, sobre todo a la hora de inventar desde cero o con pocas palabras un texto, por ejemplo, algunas inteligencias artificiales han "revivido" personajes históricos ya fallecidos y los hacen pasar como si siguieran con vida.
Un fenómeno conocido como alucinación o confabulación se ha convertido en un problema para muchas empresas, organizaciones y estudiantes que confían en estos sistemas. Según expertos en el tema, como Daniela Amodei, cofundadora y presidenta de Anthropic, desarrollador del chatbot Claude 2, es difícil encontrar un modelo de chatbot que no presente algún tipo de alucinación.
Estos chatbots están diseñados para predecir palabras, lo que puede llevar a errores en su respuesta. A pesar de esto, compañías como Anthropic y OpenAI, desarrolladores de ChatGPT, están trabajando para mejorar la veracidad de estos sistemas de inteligencia artificial.
Sin embargo, según Emily Bender, profesora de lingüística y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington, esta disparidad entre la tecnología y los casos de uso propuestos puede ser difícil de solucionar. La confiabilidad de la tecnología de IA generativa es crucial, ya que se estima que podría agregar billones de dólares a la economía mundial, según el Instituto Global McKinsey.
Además de los chatbots, hay otras herramientas de IA que pueden generar imágenes, videos, música y código de programación. Empresas como Google ya están ofreciendo productos de IA para redacción de noticias, donde la precisión es fundamental.
Incluso en otras industrias, como la gastronomía, se están utilizando sistemas de IA para generar recetas.
Ganesh Bagler, científico informático, ha trabajado en la creación de un chatbot precursor de ChatGPT para inventar recetas de cocina del sur de Asia.
Sin embargo, una sola alucinación en los ingredientes puede arruinar una comida. Aunque los desarrolladores de IA están trabajando para mejorar la veracidad de los chatbots, el problema de las alucinaciones persiste.
Es un desafío que debe ser abordado para garantizar la seguridad y confiabilidad de estos sistemas en diversas áreas de aplicación.
