Inteligencia artificial y TCA
Es bien sabido desde hace tiempo que las redes sociales, los foros y grupos, o internet en general, son un peligro para las personas con trastornos alimentarios. Pero la tecnología de la inteligencia artificial (IA) tiene capacidades únicas.
La inteligencia artificial (IA) se ha convertido en una herramienta cada vez más popular. A pesar de que esta tecnología evoluciona rápidamente, las normas de seguridad no siguen el mismo ritmo y se han lanzado modelos de IA generativa que muchas veces no son seguros o no se han probado, con el riesgo que eso conlleva.
El Centro contra el Odio Digital (CCDH, por sus siglas en inglés) de EE. UU. ha publicado un informe muy completo que aborda precisamente esta problemática y que se centra en los sitios de IA y la promoción de contenidos nocivos sobre trastornos alimentarios.
Según el informe del CCDH, los sitios de IA generativa más populares están fomentando y agravando los trastornos alimentarios entre los usuarios jóvenes, y por ende más vulnerables.
Además, el informe sugiere que las empresas tecnológicas deberían diseñar nuevos productos pensando en la seguridad y someterlos a pruebas rigurosas antes de que lleguen al público. Este es un principio con el que la mayoría de la gente está de acuerdo y, sin embargo, la abrumadora presión comercial hace que se estén lanzando nuevos productos rápidamente sin control o supervisión. La IA, como antes las redes sociales, es un espacio sin control, en el que no existe responsabilidad legal por los efectos nocivos de estos productos y es urgente qué exista una regulación eficaz a todos los productos nuevos y existentes.
Os dejamos el enlace al informe completo (en inglés) aquí y también un artículo muy contundente sobre el mismo tema publicado recientemente en el Washington Post.