Indice
La explosion de la IA generativa con ChatGPT, Midjourney, DALL-E y Stable Diffusion ha planteado un desafio importante al legislador europeo. El AI Act responde con un marco especifico para los modelos de IA de proposito general (GPAI) y obligaciones de transparencia reforzadas.
La IA generativa en el AI Act
El AI Act no clasifica directamente la IA generativa en una categoria de riesgo unica. En su lugar, introduce el concepto de "General Purpose AI" (GPAI) — modelos capaces de realizar una variedad de tareas sin haber sido disenados para un uso especifico.
ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google), Mistral y otros modelos de fundacion entran en esta categoria. Las obligaciones varian segun si el modelo se considera de "riesgo sistemico" o no.
blog_article10_info_text
Clasificacion de los modelos GPAI
El AI Act distingue dos categorias de modelos GPAI:
blog_article10_tool1_title
blog_article10_tool1_desc
blog_article10_tool2_title
blog_article10_tool2_desc
blog_article10_tool3_title
blog_article10_tool3_desc
GPT-4, Gemini Ultra y los modelos de gran tamano son susceptibles de ser clasificados como "de riesgo sistemico". Los modelos mas pequenos o especializados pertenecen generalmente a la categoria estandar.
Obligaciones de transparencia (Articulo 50)
El Articulo 50 del AI Act impone obligaciones de transparencia especificas para los sistemas de IA generativa:
blog_article10_quote
- blog_article10_transparency1
- blog_article10_transparency2
- blog_article10_transparency3
- blog_article10_transparency4
Estas obligaciones se aplican tanto si usted es proveedor del modelo (OpenAI, Anthropic) como si lo integra en sus propios productos.
Reglas especificas para los modelos GPAI
Los proveedores de modelos GPAI deben cumplir con un conjunto de obligaciones tecnicas y documentales:
| blog_article10_table_category | blog_article10_table_obligations | blog_article10_table_examples |
|---|---|---|
| blog_article10_row1_category | blog_article10_row1_obligations | blog_article10_row1_examples |
| blog_article10_row2_category | blog_article10_row2_obligations | blog_article10_row2_examples |
| blog_article10_row3_category | blog_article10_row3_obligations | blog_article10_row3_examples |
blog_article10_p4_2
Deepfakes y contenidos sinteticos
El AI Act presta especial atencion a los deepfakes. Toda persona que genere o manipule contenidos de imagen, audio o video con IA debe indicar claramente que dicho contenido ha sido generado o manipulado artificialmente.
La creacion de deepfakes sin marcado constituye una infraccion. Las multas pueden alcanzar los 15 millones de euros. Las plataformas deben implementar sistemas de deteccion.
- blog_article10_deepfake1
- blog_article10_deepfake2
- blog_article10_deepfake3
Existen excepciones para usos artisticos y satiricos, pero el principio se mantiene: la transparencia es la regla, la opacidad la excepcion.
Lista de verificacion de conformidad para IA generativa
Utilice esta lista de verificacion para comprobar su conformidad:
blog_article10_tip_text
Su IA generativa es conforme?
Nuestra auditoria evalua la conformidad de sus usos de IA generativa y le proporciona un plan de accion detallado.
Iniciar auditoria gratuitaLa IA generativa esta en el centro de las preocupaciones del AI Act. Ya sea que desarrolle o utilice estas herramientas, la transparencia y la documentacion son sus mejores aliadas para mantenerse conforme.
