OpenAI, Google, Roblox y Discord se asocian para impulsar la seguridad infantil en Internet con ROOT

MADRID, 11 (Portaltic/EP)
Compañías tecnológicas como OpenAI, Google, Roblox y Discord se han asociado para crear ROOST, una nueva organización sin ánimo de lucro que ofrecerá herramientas gratuitas y de código abierto para avanzar hacia una experiencia más segura en Internet, especialmente enfocadas a la seguridad infantil, en el marco de "la era de la Inteligencia Artificial (IA)".

Esta nueva iniciativa se ha dado a conocer en el marco del evento tecnológico Artificial Intelligence Action Summit, celebrado en París (Francia), donde se ha puesto sobre la mesa la necesidad de promover la seguridad entre los usuarios y, sobre todo, ayudar a proteger a los jóvenes en los espacios digitales.

En este sentido, ROOST, que proviene de Robust Open Online Safety Tools, reunirá la experiencia, los recursos y las inversiones de algunas de las principales empresas de tecnología y organizaciones filantrópicas para construir una infraestructura de seguridad "escalable e interoperable" adecuada para la IA y enfocada en la protección infantil.

En concreto, los socios fundadores de ROOST incluyen compañías del sector como Discord, OpenAI, Google, Roblox, John S. and James L. Knight Foundation, AI Collaborative, Patrick J. McGovern Foundation y Project Liberty Institute, tal y como han detallado en un comunicado.

Asimismo, la organización también cuenta con el apoyo y la experiencia de "un amplio conjunto" de socios de los campos de la IA, la filantropía, el mundo académico, el código abierto, la seguridad infantil y la lucha contra el extremismo violento.

Con todo ello, el objetivo de ROOT es abordar una "importante" brecha en la seguridad digital, poniendo énfasis en la seguridad infantil 'online'. Para ello, ofrecerán herramientas de seguridad gratuitas y de código abierto a organizaciones tanto públicas como privadas, "de todos los tamaños y en todo el mundo".

Según han especificado, las herramientas de ROOT se podrán utilizar para, por ejemplo, detectar, revisar y denunciar material de abuso sexual infantil (CSAM) 'online'. Igualmente, se basarán en la potencia de modelos de lenguaje grandes (LLM) para impulsar la infraestructura de seguridad.

Esta incitativa surge porque, tal y como han explicado, a medida que las tecnologías innovadoras continúan evolucionando, también lo hace el panorama de la seguridad 'online'. Además, han subrayado cómo la IA generativa "está reconfigurando el entorno 'online'", lo que aumenta la necesidad de una infraestructura de seguridad "confiable".

"A partir de una plataforma centrada en la protección infantil, el enfoque colaborativo y de código abierto de ROOST fomentará la innovación y hará que la infraestructura esencial sea más transparente, accesible e inclusiva, con el objetivo de crear una Internet más segura para todos", ha manifestado al respecto uno de los socios fundadores de ROOST, Eric Schmidt.