Un estudio reveló que las inteligencias artificiales, al igual que la mayoría de los adultos, no entienden el lenguaje digital de los más jóvenes. Si bien esto puede no parecer algo malo en sí mismo, este desfasaje impide detectar si ciertas expresiones se usan de forma dañina, lo que pone en riesgo la capacidad de las tecnologías y de los padres de acompañar y proteger a los más chicos en entornos digitales.
En la investigación, realizada por una estudiante de 14 años y un académico de la Universidad de Trento, se recopilaron 100 frases comunes entre chicos de entre 11 y 14 años. Mientras que prácticamente todos los adolescentes a los que les mostraron esas frases entendieron sus significados, contextos y posibles usos nocivos, modelos como GPT-4, Claude, Gemini y Llama 3 solo lograron identificar entre un 30 y un 40 por ciento de los casos problemáticos, números muy parecidos al entendimiento de los mayores.
Esta brecha entre el lenguaje digital de los adolescentes y su interpretación por parte de los adultos y de los algoritmos de las inteligencias artificiales genera problemas bastante claros: los sistemas de protección y moderación, que utilizan herramientas de IA para detectar momentos de acoso o manipulación, fallan y no pueden asistir a los más jóvenes en entornos donde pueden estar sufriendo.
Según explicaron al presentar el informe «los hallazgos ponen de manifiesto la urgente necesidad de mejorar los sistemas de seguridad de la IA para proteger mejor a los usuarios jóvenes, especialmente dada la tendencia de la generación alfa a evitar buscar ayuda debido a la incomprensión percibida de los adultos de su mundo digital».
En un contexto en el que ni algoritmos ni padres entienden lo que tienen delante, lo que se esconde es un riesgo a la seguridad de chicos y adolescentes con un acoso enmascarado que los sistemas de moderación no alcanzan a descifrar y que los padres pueden tener frente a sus narices y no saber que esas mínimas variaciones implican una burla o intimidación hacia sus hijos.
