En resumen
- Representantes de OpenAI y Meta hablaron ante un comité judicial de Estados Unidos sobre pruebas falsas hechas con IA.
- OpenAI dijo que no cree que vaya a existir una forma científica de detectar imágenes generadas por IA.
- Los tribunales buscan reglas para que las pruebas con IA sean tan confiables como las de un perito humano.
Durante años, la promesa fue que siempre habría alguna herramienta capaz de detectar si una imagen o un video estaba hecho con inteligencia artificial. Las propias empresas que fabrican esa IA ahora dicen que no es tan así.
Qué pasó
En Boston se reunió el Comité Asesor sobre Normas Probatorias de la Conferencia Judicial de Estados Unidos, que desde 2023 estudia cómo autenticar pruebas en la era de los deepfakes. El panel lo preside el juez federal Jesse Furman, de Manhattan.
Ahí, Shira Anderson, asesora de políticas de OpenAI, fue directa: dijo que las imágenes generadas por IA no paran de mejorar y que no cree que en el futuro exista una forma científica de detectarlas.
Devin Norder, director de producto de Meta, coincidió: según él, el contenido de los modelos más avanzados ya es indistinguible del real para las personas, y crearlo cuesta casi nada en tiempo y dinero.
¿Los jueces ya lo ven?
Por ahora, poco. Una encuesta del Centro Judicial Federal hecha en marzo mostró que, de 931 jueces, solo 15 habían tenido un caso en el que una de las partes acusó que una prueba era un deepfake. El propio Furman reconoció que hay muchas predicciones, pero todavía pocos casos reales. Igual, expertos de la industria, la academia y el gobierno coincidieron en que el problema no es hipotético y que va a crecer.
¿Y las marcas de agua?
Empresas como OpenAI y Meta vienen sumando herramientas para marcar o verificar el contenido que generan, y nuevas leyes de California y de la Unión Europea exigen marcas de agua. El problema es que no todos los modelos las usan y que, una vez que el contenido circula, esas marcas se pueden perder.
¿Por qué te importa?
Esto va mucho más allá de los tribunales. Si ni los expertos pueden distinguir una foto real de una falsa, el contexto pasa a ser clave: quién la publicó, dónde apareció primero y si otros medios la confirman. Antes de compartir esa imagen que te indigna o te sorprende, vale la pena hacerse esas tres preguntas.
Vía: N+ · IBTimes UK
Lo más importante de tech, en 5 minutos.
