Se espera que la Ley de IA sea un hito en la legislación de la UE que rige el uso de la inteligencia artificial en Europa y que ha estado en proceso durante más de dos años.
Los legisladores han propuesto clasificar diferentes herramientas de IA según su nivel de riesgo percibido, de bajo a inaceptable. Los gobiernos y las empresas que utilicen estas herramientas tendrán diferentes obligaciones, según el nivel de riesgo.
¿CUÁL ES EL ALCANCE DE LA LEY?
La Ley es expansiva y regirá a cualquiera que proporcione un producto o un servicio que utilice IA. La Ley cubrirá los sistemas que pueden generar resultados tales como contenido, predicciones, recomendaciones o decisiones que influyen en los entornos.
Además de los usos de la IA por parte de las empresas, también analizará la IA utilizada en el sector público y la aplicación de la ley. Funcionará en conjunto con otras leyes como el Reglamento General de Protección de Datos (GDPR).
Aquellos que usan sistemas de IA que interactúan con humanos, se usan con fines de vigilancia o pueden usarse para generar contenido «falso» enfrentan fuertes obligaciones de transparencia.
¿QUÉ SE CONSIDERA ‘ALTO RIESGO’?
Varias herramientas de IA pueden considerarse de alto riesgo , como las que se utilizan en infraestructura crítica, aplicación de la ley o educación. Están un nivel por debajo de «inaceptables» y, por lo tanto, no están prohibidos por completo.
En cambio, aquellos que usan IA de alto riesgo probablemente se verán obligados a completar evaluaciones de riesgo rigurosas, registrar sus actividades y poner los datos a disposición de las autoridades para que los analicen. Es probable que eso aumente los costos de cumplimiento para las empresas.
Muchas de las categorías de «alto riesgo» en las que se controlará estrictamente el uso de la IA serían áreas como la aplicación de la ley, la migración, la infraestructura, la seguridad de los productos y la administración de justicia.
¿QUÉ ES UN ‘GPAIS’?
Un GPAIS (Sistema de IA de propósito general) es una categoría propuesta por los legisladores para dar cuenta de las herramientas de IA con más de una aplicación, como los modelos de IA generativa como ChatGPT.
Actualmente, los legisladores debaten si todas las formas de GPAIS se designarán como de alto riesgo y qué significaría eso para las empresas de tecnología que buscan adoptar la IA en sus productos. El borrador no aclara a qué obligaciones estarían sujetos los fabricantes de sistemas de IA.
(Reuters) –
