Mirada tecnológica
Proyecto de ley en el Congreso: Chile regulará la Inteligencia Artificial
La rápida evolución de los sistemas de inteligencia artificial (IA) ha provocado un impacto transversal en la sociedad. Si bien, ofrece un enorme potencial para incrementar el bienestar es crucial que se desarrolle y utilice de forma ética y responsable. Por ello, recientemente, el Gobierno presentó al Congreso un proyecto de ley para regular los usos de esta tecnología, buscando promover la innovación y resguardando los derechos fundamentales de las personas.
La iniciativa, que pone a Chile entre los primeros en legislar al respecto, reconoce que la IA puede contribuir a alcanzar un "futuro socialmente más justo y ecológico"; proporcionar ventajas competitivas a las empresas y a la economía nacional, ampliar el derecho a la educación y otros múltiples beneficios, sin embargo, también "puede dar lugar a nuevos riesgos o consecuencias negativas para las personas o la sociedad."
El proyecto destaca que se han identificado usos, cuyos riesgos de infracción a valores éticos y jurídicos son de gran magnitud. En ese sentido, se enumeran prácticas con el potencial de manipular; técnicas que aprovechan las vulnerabilidades de grupos y la posibilidad de que estos sistemas sean dañinos o afecten la honra, la integridad y el libre desarrollo de la sexualidad en ámbitos digitales. Otro grupo se vincula a la utilización de datos personales sensibles para suplantar identidad. Asimismo, los sistemas de facial scraping permiten extraer imágenes desde internet o de circuitos cerrados de televisión sin consentimiento de sus titulares. "No es lo mismo un algoritmo destinado a influir las emociones que uno que pretende recomendar opciones de música", planteó la ministra de Ciencia, Aisén Etcheverry, al dar cuenta de la iniciativa.
Las categorías
Teniendo como referente la reciente ley de la Unión Europea, el texto define cuatro categorías: riesgo inaceptable, alto, moderado y sin riesgo evidente. Así, determina que las empresas clasifiquen sus sistemas teniendo cada categoría reglas específicas. Las sanciones las aplicará la nueva institucionalidad: la Agencia de Protección de Datos Personales y existirá un Consejo Asesor Técnico de Inteligencia Artificial.
Se consideran inaceptables, los usos que atenten contra la dignidad; prácticas con alto potencial de manipular o evaluar estados emocionales; análisis de imágenes de vídeo con identificación en tiempo real (salvo en seguridad pública) y los sistemas basados en facial scraping.
Como alto riesgo, están las aplicaciones que pueden perjudicar significativamente la salud, al medioambiente, la seguridad, los derechos fundamentales o de los consumidores. En limitado, se incluyen los usos que no conllevan riesgos significativos de manipulación, engaño o error. Por último, en la categoría sin riesgo evidente, podría estar un sistema que sugiere películas o canciones, según las preferencias del usuario.
El proyecto busca que la IA funcione en condiciones transparentes, asegurando que las personas reciban información clara y precisa y sepan que interactúan con una máquina. Asimismo, se desea contribuir a la innovación al posibilitar espacios controlados de pruebas para estas tecnologías antes que sean introducidas al mercado, también promueve medidas para empresas de menor tamaño en este ámbito.