Meta refuerza la seguridad: el nuevo plan para que los chicos hablen "sanamente" con la IA

Cuando se habla de inteligencia artificial, casi siempre aparece el entusiasmo por sus beneficios. Sin embargo, también están las sombras: ¿qué pasa cuando los usuarios son niños y la IA responde de manera inadecuada? Ese fue el dilema que empujó a Meta a anunciar un plan de seguridad diseñado para que los más jóvenes puedan tener conversaciones saludables con los chatbots.

La polémica estalló cuando Reuters reveló que un bot de Meta AI había entablado diálogos de tono romántico con un menor. La compañía lo calificó como un error "incoherente con sus políticas", y desde entonces comenzó una carrera para reforzar los límites.

¿Qué cambió?

Meta entregó a los contratistas que entrenan sus chatbots un documento con nuevas reglas:

• Prohibición absoluta de cualquier contenido que promueva o respalde el abuso sexual infantil.

• Bloqueo de juegos de rol románticos si hay menores involucrados.

• Restricciones a pedidos para que la IA actúe como un niño.

• Limitación de consejos sobre contacto físico íntimo.

La idea es que los bots puedan hablar sobre temas sensibles como el abuso, pero siempre desde un marco informativo y de prevención, nunca como un espacio de fomento.

IA bajo la lupa

Mark Zuckerberg está decidido a que Meta no quede en el banquillo de los acusados. La empresa ya invirtió en la creación de Superintelligence Labs, un área destinada a mejorar sus modelos de IA. Pero las críticas no son solo para Meta: Google, OpenAI y hasta X también enfrentan cuestionamientos similares.

¿Alcanzará?

Las medidas suenan estrictas, pero plantean un desafío mayor: ¿cómo controlar cada interacción en un universo de millones de chats diarios? Para los expertos, el paso de Meta es un gesto necesario, aunque insuficiente si no se combina con educación digital, control parental y más transparencia.

En un mundo donde los chicos conviven con pantallas desde la infancia, la IA puede ser tanto una herramienta educativa como un riesgo silencioso. Y la clave está en cómo se diseñan sus límites.