El gobernador Murphy firma ley que penaliza los contenidos multimedia ultrafalsos

Por Sophie Nieto-Muñoz / www.newjerseymonitor.com

El gobernador Phil Murphy firmó una ley que impone sanciones civiles y penales a cualquiera que cree o comparta contenido multimedia engañoso generado por IA, conocido como ultrafalsos (deepfakes).

En un evento en Newark, Murphy afirmó que los habitantes de Nueva Jersey merecen mayores protecciones contra las amenazas que evolucionan rápidamente en el mundo virtual.

«Casi cualquier persona maliciosa puede usar inteligencia artificial para producir imágenes y videos hiperrealistas que pueden dañar a niños, adolescentes y, francamente, a cualquiera», declaró.

La nueva ley tipifica como delito de tercer grado la producción y el intercambio de ultrafalsos (deepfakes) si se utilizan con un propósito ilegal —por ejemplo, para acosar o extorsionar a alguien—, con multas de hasta $30,000 o un máximo de cinco años de prisión. El gobernador estuvo acompañado por la vicegobernadora Tahesha Way y activistas como Francesca Mani.

Mani, una estudiante de la escuela secundaria Westfield que fue víctima de ultrafalsos sexualmente explícitos compartidos por sus compañeros, contribuyó a inspirar la legislación. Recientemente fue nombrada una de las 100 personas más influyentes en IA por la revista Time.

Mani contó que el chico responsable de los ultrafalsos con su imagen recibió una suspensión de un día, y las autoridades escolares le dijeron que no podían hacer mucho más porque «no existen leyes de IA».

«Mi respuesta: Entonces les traeré una ley. Bueno, Escuela Secundaria Westfield, esta es para ustedes. No hacer nada ya no es una opción, Sra. Asfendis», dijo, refiriéndose a la directora de la escuela.

La medida se aprobó primero en la Legislatura y llegó al despacho del gobernador en enero, pero Murphy la vetó condicionalmente por preocupaciones sobre su constitucionalidad. Los legisladores la enmendaron y esta versión fue aprobada por unanimidad en el Senado y por 64 votos a favor y 13 en contra en la Asamblea.

Way, quien también se desempeña como secretaria de estado de Nueva Jersey y supervisa las elecciones estatales, advirtió sobre el potencial de la inteligencia artificial para erosionar la confianza pública durante las campañas electorales. El Fiscal General del Estado, Matt Platkin, también enfatizó el rol de la oficina en responsabilizar a los actores maliciosos, calificando los ultrafalsos como una «poderosa herramienta de engaño cuando se usan maliciosamente».

«Juntos estamos construyendo un futuro donde la tecnología esté al servicio del bien público, no de quienes buscan socavarlo», afirmó Way.

Nueva Jersey se une a un creciente número de estados que buscan regular los ultrafalsos, particularmente en áreas como el acoso en línea y la seguridad electoral. Al menos 20 estados promulgaron leyes el año pasado para regular los ultrafalsos políticos.