Detecta Seguridad uso de Inteligencia Artificial para cometer delitos

La Secretaría de Seguridad y Protección Ciudadana detectó el uso de herramientas basadas en inteligencia artificial para crear desnudos a partir de imágenes y videos públicos para extorsionar a las personas. La alerta provino desde instancias Extranjeras, el FBI, quienes encontraron imágenes y videos públicos manipulados para campañas de "sextorsión".

Al parecer se han recibido varios reportes de víctimas que han sido extorsionadas con la manipulación de videos e imágenes suyas para la creación de imágenes sexuales falsas. Los actores maliciosos detrás de estas campañas luego divulgan este material en redes sociales o sitios de pornografía para extorsionar a las víctimas o simplemente intimidarlas. Lamentablemente, entre las denuncias también se registraron víctimas que son menores de edad.

Estas imágenes y videos son obtenidos de redes sociales, de fuentes públicas o incluso proporcionadas por las víctimas y mediante tecnologías basadas en Inteligencia Artificial crean imágenes falsas con apariencia muy real, donde la calidad de estas imágenes puede engañar fácilmente al ojo humano.

Muchas de las víctimas no están al tanto de la existencia de estas imágenes falsas en las que se suplanta su identidad hasta que alguien le avisa porque las encontró de forma casual o porque son chantajeadas. Si bien es posible intentar que ese contenido desaparezca de Internet, es una tarea muy compleja.

Por otra parte en los últimos años se han visto campañas de "sextorsión", en las cuales los delincuentes envían correos personalizados intentando asustar a las víctimas haciéndoles creer que han sido víctimas de una infección con un malware que permitió a los cibercriminales grabar videos íntimos utilizando la cámara web de la víctima. Si bien es falso y los delincuentes no han infectado con malware los equipos y no tienen videos o imágenes comprometedores, igualmente intentan extorsionar a las víctimas para que envíen dinero y de esta manera evitar que ese supuesto contenido empiece a circular por Internet. Lamentablemente, muchas personas caen en la trampa. La forma de robar el dinero puede variar. Muchas veces solicitan depositar determinada suma en criptomonedas en una billetera virtual y otras veces pueden demandar el envío de tarjetas de regalo.

Sin dudas que esta realidad actual obliga a los cuidadores de niños y adolescentes a estar más atentos y a poner al tanto a los más chicos sobre estas nuevas tendencias. También refuerza la importancia de enseñar buenas prácticas de privacidad en línea y las consecuencias de la información que publicamos. Pero no sólo se debe proteger a los más chicos, sino también a los propios adultos, que también son víctimas.

Algunos países ya están tomando medidas para minimizar el uso de deep fakes, por ejemplo, ya existen iniciativas para cambiar la ley y sancionar a quienes comparten estos contenidos falsos, por ejemplo en Nayarit.