La inteligencia artificial ha sido utilizada como herramienta de acoso en línea, con deepfakes y suplantación de identidad afectando a miles de mujeres. Ante este panorama, Layla Delgadillo, CEO de Silent4Business, urgió a fortalecer la regulación y el desarrollo de tecnología para frenar la violencia digital.
De acuerdo con Deeptrace Labs, los deepfakes aumentaron un 330% entre 2019 y 2021, y el 96% de ellos son de contenido explícito no consentido. Delgadillo señaló que la accesibilidad a software de manipulación ha facilitado el uso de estas herramientas con fines de acoso y extorsión.
Ante ello, destacó que la inteligencia artificial también puede ser clave para combatir este problema. Actualmente, diversas plataformas han implementado algoritmos de detección de contenido manipulado y análisis de lenguaje para identificar patrones de acoso. No obstante, advirtió que estas soluciones aún presentan limitaciones en precisión y contextualización.
En México, la Ley Olimpia ha sido un avance en la tipificación del acoso digital, pero las regulaciones siguen siendo insuficientes frente a la rápida evolución de las amenazas digitales. En este sentido, Silent4Business desarrolló 4YOU, un sistema de monitoreo en tiempo real que detecta anomalías en la red y utiliza IA para prevenir ataques.
Delgadillo insistió en la necesidad de mayor inversión en educación digital y políticas públicas que combatan la violencia de género en internet. “No basta con reaccionar ante los ataques, debemos adelantarnos con herramientas tecnológicas, regulaciones efectivas y un compromiso conjunto entre gobiernos, empresas y sociedad”, concluyó.
Comentarios (0)
Sin comentarios