Por Deepa Seetharaman

OpenAI, Meta y Google, junto con Thorn y All Tech Is Human, están colaborando para prevenir la explotación infantil en la era de la IA generativa. Su objetivo es detener la creación de contenido sexualizado de menores mediante:

– La exclusión de datos con contenido sexual infantil en sus conjuntos de datos y la limpieza de sus materiales de entrenamiento.

– La realización de pruebas regulares para identificar y solucionar vulnerabilidades que puedan permitir la generación de tal contenido.

– La eliminación de enlaces a servicios que manipulan imágenes de niños, un problema emergente en las escuelas secundarias.

A pesar de los desafíos para equilibrar la seguridad y la utilidad, y la necesidad de avances técnicos y acuerdos regulatorios, el esfuerzo conjunto es un paso adelante hacia un futuro digital más seguro para los niños, reflejado en los 36 millones de reportes de explotación infantil en 2022.

Concluyendo, esta colaboración es un paso crucial en la lucha contra la explotación infantil y destaca la responsabilidad que las empresas de tecnología tienen en la protección de los más vulnerables en nuestra sociedad. Fuente: OpenAI, Meta and Google Sign On to New Child Exploitation Safety Measures – WSJ