Tecno

Por qué la inteligencia artificial no es totalmente confiable y qué falta para que lo sea

Inteligencia artificial y la educación - (Imagen Ilustrativa Infobae)
El uso de esta avanzada tencología está en distintos sectores sociales. (Imagen Ilustrativa Infobae)

La inteligencia artificial (IA) se ha convertido en una herramienta fundamental, sin embargo, la proliferación de modelos de lenguaje de gran tamaño (LLM) como GPT-4 ha sacado a la luz un desafío crucial, la desconfianza de los humanos.

Este fenómeno se caracteriza por presentar respuestas erróneas presentadas por la IA, que para algunos usuarios es notoria su falta de veracidad, mientras que para otros terminan siendo perjudicados al usar información falsa para algunas tareas diarias a nivel educativo o laboral.

Por esta razón, Microsoft está trabajando en estrategias para minimizar la información falsa difundida por la IA, que todavía no cuenta con la total credibilidad en algunos campos de estudio.

Por qué la inteligencia artificial se equivoca y crea desconfianza

Pantalla de una laptop mostrando la interfaz de un chatbot impulsado por Inteligencia Artificial, con líneas de código destacadas. La imagen refleja el impacto de la IA en la evolución tecnológica, simbolizando los avances en programación, robótica y asistencia digital en el campo científico y tecnológico. (Imagen ilustrativa Infobae)
Por el momento no existen chatbots que sean totalmente confiables. (Imagen ilustrativa Infobae)

La inteligencia artificial se equivoca en varias ocasiones como cuando se le pide un artículo sobre un tema en específico y termina arrojando un resultado que no corresponde. Un hecho que trae desconfianza a los humanos.

Estos errores son llamados alucinaciones que ocurren cuando los modelos de IA, a pesar de estar entrenados con grandes cantidades de datos, producen respuestas que se desvían de la realidad.

Entonces Microsoft para evitar estos contratiempos ha decidido someter a sus modelos de IA a pruebas rigurosas diseñadas para inducir la creación de información falsa.

Esta estrategia, similar a un entrenamiento de resistencia para la IA, permite a los investigadores identificar las vulnerabilidades en los modelos y desarrollar soluciones para contrarrestarlas.

Cómo evitar que la inteligencia artificial ofrezca respuestas falsas

En el caso de Microsoft, plantea varias estrategias para mitigar errores. (Foto: REUTERS/Gonzalo Fuentes/File Photo)
En el caso de Microsoft, plantea varias estrategias para mitigar errores. (Foto: REUTERS/Gonzalo Fuentes/File Photo) (Gonzalo Fuentes/)

Para evitar que la inteligencia artificial ofrezca respuestas falsas, varias compañías trabajan en planes de acción, que optimicen la veracidad de la IA.

“Microsoft quiere asegurarse de que cada sistema de IA que construye ofrece la confianza necesaria para poder utilizarlo de forma eficaz”, afirmó Sarah Bird, directora de producto de Responsible AI en Microsoft, en un comunicado oficial emitido por la empresa.

Con este principio de mente, Microsoft ha concentrado sus esfuerzos en enriquecer sus modelos con información precisa y actualizada a los más recientes. Este enfoque, basado en datos de calidad, busca minimizar las posibilidades de que la IA genere información errónea o inventada, y reducir posibles secuelas desafortunadas.

Cómo contrarrestar que la inteligencia artificial alucine

Especialista en informática trabajando con una iMac, aplicando inteligencia artificial en tareas de diseño y programación. La fotografía captura un ambiente de trabajo moderno, donde el uso de tecnología de punta en computación y software destaca su habilidad profesional. (Imagen ilustrativa Infobae)
Evitar respuestas falsas es necesario para ayudar en varios sectores académicos y laborales. (Imagen ilustrativa Infobae)

Para contrarrestar que los distintos asistentes con IA alucinen, en el caso de Microsoft, ha integrado una serie de herramientas avanzadas en Azure OpenAI Service y Azure AI.

Estas herramientas, diseñadas para brindar un entorno seguro y controlado, permiten a las organizaciones preparar y entrenar sus aplicaciones de IA generativa utilizando sus propios datos. Entre las soluciones disponibles se encuentran:

  • Servicios de evaluación: permiten a los desarrolladores evaluar el rendimiento de sus modelos de IA y detectar posibles señales o inexactitudes.
  • Plantillas de mensajes de seguridad: proporcionan un marco para la creación de mensajes y respuestas que minimizan el riesgo de generar contenido inapropiado o engañoso.
  • Mecanismos de detección en tiempo real: supervisan el funcionamiento de las aplicaciones de IA y alertan sobre cualquier actividad sospechosa o potencialmente dañina.

Estar a la vanguardia de la IA generativa implica la responsabilidad y la oportunidad de hacer nuestros productos más seguros y fiables”, afirmó Ken Archer, jefe de producto de Responsible AI de Microsoft.

Qué implicaciones tiene que la IA no ofrezca respuestas confiables

Profesional exponiendo en un auditorio sobre inteligencia artificial, con la audiencia atenta a su presentación. La fotografía ilustra la relevancia de compartir y discutir avances en tecnología, ciencia e investigación, y cómo los eventos como conferencias son vitales para la comunidad científica y tecnológica. (Imagen ilustrativa Infobae)
Con formas de prevención de errores de la IA será más fácil que se adapte a los retos modernos. (Imagen ilustrativa Infobae)

Las implicaciones que tiene una respuesta errónea de la IA puede ser un riesgo en casos donde se incluya en campos de suma rigurosidad como la ciencia o la gestión de riesgos.

Ya sea desde investigaciones con información errónea, hasta un simple trabajo académico, el uso de IA puede terminar afectando al usuario, mitigando la capacidad de la inteligencia artificial para adaptarse a la época actual.

Todo esto subraya el compromiso que deben tomar las grandes compañías en la construcción de una IA responsable y confiable, y así abordar los desafíos como las alucinaciones para garantizar que esta tecnología se utilice de manera ética y beneficiosa para la sociedad.

Publicaciones relacionadas

Botón volver arriba
Cerrar