Tecno

La inteligencia artificial irá por primera vez a la escuela: OpenAI quieres mitigar los riesgos en los más jóvenes con estos planes

OpenAI ha establecido una alianza con Common Sense Media, una reconocida entidad sin ánimo de lucro enfocada en evaluar la adecuación de varios medios y tecnologías para el público infantil y adolescente. (OpenAI - Common Sense Media)
OpenAI ha establecido una alianza con Common Sense Media, una reconocida entidad sin ánimo de lucro enfocada en evaluar la adecuación de varios medios y tecnologías para el público infantil y adolescente. (OpenAI – Common Sense Media)

La inteligencia artificial ha emergido como un avance que podría significar el cambio más disruptivo experimentado por la humanidad, incluso por encima de la llegada de internet. Sin embargo, así como tiene el potencial de proporcionar enormes beneficios, sin la adopción generalizada de prácticas responsables, es igualmente capaz de causar grandes daños.

OpenAI, compañía creadora del muy popular ChatGPT, parece ser consciente de la creciente necesidad de empezar a educar sobre la IA y de hecho, espera ganarse la confianza de los padres y de los formuladores de políticas asociándose con organizaciones que trabajan para minimizar los daños de la tecnología en niños, preadolescentes y adolescentes.

La empresa liderada por Sam Altman hizo una alianza estratégica con Common Sense Media, con el objetivo de promover el uso seguro de la inteligencia artificial entre los jóvenes.

OpenAI acerca de su participación en el nuevo marco de Common Sense, para la evaluación y calificación de productos de IA en términos de seguridad, transparencia, utilización ética e impacto social. (Reuters/Dado Ruvic)
OpenAI acerca de su participación en el nuevo marco de Common Sense, para la evaluación y calificación de productos de IA en términos de seguridad, transparencia, utilización ética e impacto social. (Reuters/Dado Ruvic) (DADO RUVIC/)

Recordemos que la preocupación principal de la organización sin ánimo de lucro radica en la necesidad de desarrollar y utilizar la IA de manera responsable, ética e inclusiva desde su concepción.

De hecho, reconoce que la excelencia técnica no es suficiente y señala que estos modelos deben ser considerados desde una perspectiva socio-técnica, lo que implica una interdependencia entre la tecnología, los seres humanos y los procesos creados por estos últimos.

Mientras que las revisiones de productos de IA que elabora Common Sense actúan como una suerte de etiquetas nutricionales que proporcionan información detallada sobre las oportunidades, consideraciones y limitaciones de cada producto.

En qué consiste la alianza

Esta colaboración tiene como fin el desarrollo de directrices de inteligencia artificial (IA) y recursos educativos destinados a padres, docentes y jóvenes adultos. (Reuters/Florence Lo)
Esta colaboración tiene como fin el desarrollo de directrices de inteligencia artificial (IA) y recursos educativos destinados a padres, docentes y jóvenes adultos. (Reuters/Florence Lo) (FLORENCE LO/)

Anunciada durante un evento en San Francisco, Estados Unidos, esta colaboración busca incorporar herramientas educativas diseñadas para garantizar una interacción responsable con tecnologías como ChatGPT.

El CEO de OpenAI, Sam Altman, y el CEO de Common Sense Media, Jim Steyer, destacaron la importancia de esta iniciativa para el bienestar general de los menores.

La asociación entre ambas entidades se centrará en el desarrollo de directrices y recursos pedagógicos que faciliten la comprensión de la IA por parte de niños, padres y educadores.

Según una investigación de Impact Research, mientras un 58% de los estudiantes de entre 12 y 18 años ha utilizado ChatGPT, solo un 30% de los padres de niños en edad escolar han tenido experiencia con esta herramienta.

Por su parte, Common Sense Media trabajará en la creación de un sistema de clasificación y revisión especialmente diseñado para IA, enfocándose en elementos como el fomento del aprendizaje y el respeto a los derechos humanos.

IA como parte de un plan educativo

Se hará una selección de aplicaciones de chatbot, conocidas como GPT “familiares”, dentro de GPT Store. (OpenAI)
Se hará una selección de aplicaciones de chatbot, conocidas como GPT “familiares”, dentro de GPT Store. (OpenAI) (OPENAI/)

OpenAI y Common Sense pretenden explorar cómo personalizar modelos de lenguaje grande (LLM) para aplicaciones educativas, permitiendo a los adolescentes acceder a información relevante en campos como las ciencias y la biología.

Asimismo, se comprometen a trabajar juntos para la selección de aplicaciones de chatbot, conocidas como GPT “familiares” dentro de la GPT Store, adecuadas para el uso juvenil porque mantienen las normas y valores promovidos por la organización.

Altman tiene la visión de un futuro donde la IA personalizada esté disponible para todos, enfatizando la misión de su compañía en ofrecer herramientas útiles y de manera gratuita.

Esta iniciativa se presenta como una respuesta a la necesidad de establecer parámetros de seguridad y confianza en el uso de IA. (EFE/Rayner Peña R)
Esta iniciativa se presenta como una respuesta a la necesidad de establecer parámetros de seguridad y confianza en el uso de IA. (EFE/Rayner Peña R)
(Rayner Peña R./)

“La IA ofrece beneficios increíbles para las familias y los adolescentes, y nuestra asociación con Common Sense fortalecerá aún más nuestro trabajo de seguridad, garantizando que las familias y los adolescentes puedan utilizar nuestras herramientas con confianza”, afirmó el ejecutivo.

Aunque reconoce los riesgos de las imágenes generadas por IA, pero confía en la capacidad de los usuarios para discernir la veracidad de las mismas. Mientras que destacó los esfuerzos de OpenAI para monitorear y responder ante el uso indebido de la IA.

Por otra parte, Craig Newmark Philanthropies, que ha contribuido con 3 millones de dólares para apoyar esta iniciativa, ha expresado sus preocupaciones sobre el uso de IA por parte de actores malintencionados y sus potenciales efectos en el descontento social y la desinformación.

https://www.infobae.com/tecno/2024/01/05/gpt-store-la-tienda-de-apps-personalizadas-con-inteligencia-artificial-de-openai/

https://www.infobae.com/tecno/2023/12/10/chatgpt-se-esta-volviendo-perezoso-esta-es-la-revelacion-de-openai-el-creador-de-la-inteligencia-artificial/

Publicaciones relacionadas

Botón volver arriba
Cerrar