Proyecto de ley nº 091 de 9 de agosto de 2023, mediante la cual se establece el deber de información para el uso responsable de la Inteligencia Artificial en Colombia y se dictan otras disposiciones
Bogotá D.C, 9 de agosto de 2023
Doctor, GREGORIO ELJACH PACHECO
Secretario General Senado de la República Ciudad
Asunto: Radicación de proyecto de ley “Mediante la cual se establece el deber de información para el uso responsable de la Inteligencia Artificial en Colombia y se dictan otras disposiciones”
Respetado secretario general,
En mi calidad de Senador de la República y en uso de las atribuciones que me han sido conferidas constitucional y legalmente, me permito respetuosamente radicar el proyecto de ley de referencia y, en consecuencia, le solicitamos se sirva dar inicio al trámite legislativo respectivo.
Cordialmente,
PEDRO H. FLOREZ PORRAS
Senador de la República
SANDRA RAMÍREZ LOBO SILVA
Senadora de la República
SANDRA YANET JAIMES CRUZ
Senadora de la República
JULIO ALBERTO ELÍAS VIDAL
Senador de la República
SOLEDAD TAMAYO TAMAYO
Senadora de la República
GUSTAVO ADOLFO MORENO HURTADO
Senador de la República
Proyecto de Ley nº 059 de 2023 Senado
“Mediante la cual se establece el deber de información .para el uso responsable de la Inteligencia Artificial en Colombia y se dictan otras disposiciones”.
El Congreso de Colombia
DECRETA
CAPÍTULO 1. DISPOSICIONES GENERALES
Artículo l. Objeto.
La presente ley tiene por objeto establecer un uso responsable de las Inteligencias Artificiales en Colombia, dentro de los parámetros éticos y legales que garanticen seguridad, transparencia, igualdad y equidad.
Artículo 2. Definiciones.
a) Inteligencia Artificial: Se refiere a la tecnología capaz de replicar, mediante algoritmos, los procesos de pensamiento humanos.
b) Inteligencia Artificial Generativa: Se refiere a un tipo de tecnología de inteligencia artificial capaz de producir diversos tipos de contenido, incluidos, pero no limitados a textos, imágenes, audio y datos sintéticos.
Artículo 3. Deber de información.
Las personas jurídicas o naturales que realicen cualquier tipo de actividad económica o académica mediante el uso o intermediación de una Inteligencia Artificial Generativa, tendrán el deber de informar que Inteligencia Artificial fue utilizada y especificar para que fue utilizada, esta información deberá estar siempre visible y disponible y ser accesible e identificable.
Artículo 4. Marco Ético.
El Gobierno Nacional diseñará un marco ético transversal para guiar el desarrollo, implementación y evaluación de sistemas de inteligencia artificial generativas que operen y se implementen en el país.
Parágrafo. Este marco Ético deberá ser diseñado en un término no mayor a seis (6) meses a partir de la entrada en vigencia de la presente ley y deberá ser sometido a revisión y actualización cada tres (3) meses a partir de su promulgación.
Parágrafo 2. La revisión y actualización periódica de la que trata el presente artículo deberá ser realizada por una comisión conformada por el Ministro (a) de Ciencia, Tecnología e Innovación o su delegado, el Ministro(a) de las Tecnologías de la Información y las Comunicaciones o su delegado, el Ministerio(a) de Comercio, Industria y Turismo o su delegado, y cualquier otra instancia gubernamental o académica competente.
Artículo 5. Estudio e Investigación.
El Gobierno Nacional incentivará y fortalecerá la formulación de programas educativos y creación de grupos de investigación universitarios encaminados a la investigación y desarrollo de Inteligencia Artificial.
Artículo 6. Jornadas de capacitaciones.
En un plazo no mayor a seis (6) a partir de la entrada en vigencia de la presente Ley, el Gobierno Nacional diseñará e implementará jornadas de capacitación en el uso de Inteligencias Artificiales, con el fin de preparar a la ciudadanía y desarrollar sus capacidades para adaptarse a las emergentes tecnologías.
Artículo 7. Plan de Acción.
El Gobierno Nacional, a través del Ministerio de Tecnologías de la Información y Comunicaciones, el Ministerio de Ciencia, Tecnología e Innovación, el Ministerio de. Comercio, Industria y Turismo, y cualquier otra instancia gubernamental o académica competente, diseñará un plan de acción para la regulación del uso responsable de la Inteligencia Artificial en Colombia en un plazo no mayor a un (1) año, contado a partir de su entrada en vigencia de la presente Ley. Este plan de acción será un documento orientador que establecerá las bases en materia de necesidad y prioridad de la regulación para estas emergentes tecnologías.
Parágrafo. Este plan de acción deberá tener en cuenta el diagnóstico y las recomendaciones formuladas por el Consejo Internacional de Inteligencia Artificial para Colombia, así como guiarse de estándares internacionales en la materia.
Artículo 8. Cooperación Internacional.
El Gobierno Nacional deberá incentivar la cooperación internacional con sectores públicos y privados, cuya finalidad sea el estudio, investigación, desarrollo e innovación en materia de inteligencia artificial, en procura de mantener las capacidades técnicas de las instituciones administrativas nacionales en la materia.
Artículo 9. Vigencia y derogatorias.
La presente Ley rige a partir de su publicación y deroga las disposiciones que le sean contrarias.
Cordialmente,
PEDRO H. FLOREZ PORRAS
Senador de la República
SANDRA RAMIREZ LOBO SILVA
Senadora de la República
SANDRA YANETH JAIMES CRUZ
Senadora de la República
JULIO ALBERTO ELÍAS VIDAL
Senador de la República
SOLEDAD TAMAYO TAMAYO
Senadora de la República
GUSTAVO ADOLFO MORENO HURTADO
Senador de la República.
Secretaría Genenal (Art. 139 y ss Ley 5ª de 1.992)
El día 0 9 del mes Agoto del año 2023,
se radicó en este despacho el proyecto de ley nº 091. Acto Legislativo nº ,con todos y cada uno de los requisitos constitucionales y legales por Pedro H. Flores P., Sandra Ramírez Silva, Sandra Janeth Jaimes, Julio A. Elías Vidal, Soledad Tamayo, Gustavo A. Moreno Hurtado
SECRETARÍA GENERAL
EXPOSICIÓN DE MOTIVOS OBJETO DEL PROYECTO DE LEY
El objeto del presente proyecto de ley es establecer las bases para que las Inteligencias Artificiales en Colombia sean utilizadas de manera responsable y dentro de los parámetros éticos y legales que garanticen seguridad, transparencia, igualdad y equidad para sus usuarios y los colombianos.
JUSTIFICACIÓN
La Inteligencia Artificial (IA) hace parte fundamental de la revolución industrial que está viviendo el mundo en la actualidad y si bien estamos, como país, en un momento muy temprano para hablar de regulaciones y leyes que encasillen el uso de estas nuevas tecnologías, si estamos a tiempo para definir un marcos y empezar a desarrollar la bases institucionales, investigativas y culturales para una transición amena y una adaptación rápida a estas emergentes innovaciones que están aquí para quedarse.
Como bien se menciona en el acápite anterior, se está en un momento muy temprano para plantear regulaciones estrictas a la Inteligencia Artificial (IA), para ello sería necesario primero analizar los impactos y necesidades que traerán estas tecnologías, es por ello que el presente proyecto de ley tiene un enfoque preparativo y de planeación para garantizar un uso seguro, ético y responsable de esta tecnología en beneficio de la sociedad.
La IA está avanzando rápidamente y tiene el potencial de tener un impacto significativo en diversos aspectos de la vida cotidiana. La preparación temprana puede ayudar a estar listos como país para afrontar los desafíos y aprovechar las oportunidades que esta tecnología presenta. Algunas de las razones que justifican esta necesidad son:
l. Seguridad y privacidad: La IA puede tener implicaciones significativas en la seguridad y privacidad de los datos. Regularla ayuda a proteger la. información personal y a evitar posibles ataques cibernéticos o el mal uso de la tecnología.
2. Discriminación y sesgo: Los sistemas de IA puede verse afectados por sesgos inherentes en los datos con los que se entrenan. Esto puede conducir a decisiones discriminatorias o injustas, especialmente en aplicaciones como la selección de personal o en el ámbito judicial. La regulación busca mitigar estos riesgos y promover la equidad.
3. Transparencia: La TA a menudo funciona como una caja negra, lo que significa que los procesos internos que lleva a cabo para llegar a sus conclusiones pueden ser difíciles de entender. La regulación puede exigir que los sistemas de IA sean transparentes y que puedan explicar sus decisiones, lo que es especialmente importante en aplicaciones críticas como la atención médica y la toma de decisiones en entornos sensibles.
4. Responsabilidad: La regulación puede establecer la responsabilidad de las empresas y organizaciones que desarrollan y utilizan sistemas de IA. Esto garantiza que se puedan identificar y abordar las consecuencias negativas de los errores o mal funcionamiento de estos sistemas.
5. Protección del consumidor: La regulación busca salvaguardar a los usuarios y consumidores de posibles abusos o prácticas engañosas relacionadas con la IA.
6. Competencia justa: La regulación puede ayudar a prevenir prácticas monopolísticas o anticompetitivas en el desarrollo y despliegue de la IA, permitiendo un ecosistema más justo y abierto.
Esta ley es necesaria ya que, si la Inteligencia Artificial no se regula adecuadamente, con normas precipitadas y sin un plan de acción y una infraestructura clara, pueden surgir varios riesgos significativos que afecten negativamente a al país y a la población colombiana. Algunos de estos riesgos incluyen: discriminación, violaciones de privacidad, desplazamiento laboral y riesgos éticos y morales.
Es evidente que la IA y la automatización avanzada pueden reemplazar o modificar significativamente muchos puestos de trabajo, lo que podría conducir al desempleo masivo y a la desigualdad económica si no se implementan medidas de mitigación adecuadas, las cuales deben ser previstas y analizadas dentro del contexto nacional y determinadas claramente en un plan de acción nacional.
Es importante destacar que la eventual regulación de la IA debe ser equilibrada, evitando restricciones excesivas que puedan frenar la innovación, pero también asegurándose de proteger los derechos y la seguridad de las personas. Un enfoque colaborativo, flexible y basado en principios éticos sólidos es fundamental para abordar los desafíos y aprovechar los beneficios de la IA de manera responsable.
La regulación de la IA también ha sido objeto de debate. Algunos argumentan que las regulaciones podrían restringir la innovación y el desarrollo de la IA. Además, la velocidad del avance tecnológico puede superar la capacidad de las regulaciones para mantenerse al día, es por ello que se reitera nuevamente que el enfoque de esta ley no es regular ni restringir de ninguna manera estas tecnologías, por el contrario, su espíritu va encaminado a la convivencia y en limpiar el camino para que la implementación y la transición tecnología del país sea lo más equilibrada y harmónica posible, tanto para las tecnologías como para la población colombiana.
En conclusión, la regulación de la Inteligencia Artificial es un desafío complejo, multifacético, multisectorial, y debe hacerse con responsabilidad y con todo el conocimiento técnico disponible, con referentes académicos e internacionales claros y con una ruta de implementación estudiada, esto debido a la amplia gama de aplicaciones y tecnologías involucradas y por la cantidad de aspectos que toca esta transformación tecnológica mundial.
Es por lo anterior que esta ley plantea la necesidad de un plan de acción que no solo realice en diagnostico fundamental de lo que necesita el país en esta materia y entre los temas fundamentales que debe tratar se encuentran: transparencia (tanto de lo producido por estas tecnologías como de la adquisición informática), mitigación de riesgos, protección de la privacidad y los datos, seguridad y ciberseguridad, rendición de cuentas, evaluación y certificación, colaboración internacional y fomento de la innovación responsable.
Lo anterior deberá ser diseñado con la participación de múltiples sectores tanto académicos como científicos, y estructurado de una manera integral que garantice su flexibilidad y adaptabilidad ante los constantes avances tecnológicos, lo que ayer parecía un futuro distante hoy es nuestro presente y el país necesita contar .con las herramientas para adaptarse a este nuevo mundo que está más cerca de lo que podemos imaginar.
MARCO NORMATIVO
CONPES 3920 -Plan Nacional de Explotación de Datos (Big Data). Define la política de explotación de datos (big data) y aborda cuatro ejes estructurales:
1) Generación de datos digitales,
2) cultura de protección y aprovechamiento de datos,
3) capital humano para la explotación de datos y
4) Marco jurídico, ético e institucional, que busca habilitar la generación de valor y reforzar la protección de los individuos en el contexto de disponibilidad y explotación masiva de datos.
Esta política tiene una gran relevancia como condición habilitante para el avance de la IA en el país porque los datos son un insumo clave para una de las ramas de desarrollo de soluciones basadas en aprendizaje automático.
CONPES 3975 – Política Nacional para La Transformación Digital e Inteligencia Artificial. Este documento orientador de fecha 8 de noviembre de 2019, formula una política nacional para la transformación digital e inteligencia artificial. Esta política tiene como objetivo potenciar la generación de valor social y económico en el país a través del uso estratégico de tecnologías digitales en el sector público y el sector privado, para impulsar la productividad y favorecer el bienestar de los ciudadanos, así como generar los habilitadores transversales para la transformación digital sectorial, de manera que Colombia pueda aprovechar las oportunidades y enfrentar los retos relacionados con la Cuarta Revolución Industrial.
En 2020 se presentó un documento para discusión denominado “Marco Ético para La Inteligencia Artificial en Colombia”, de la Consejería Presidencial para Asuntos Económicos y Transformación Digital, elaborado con la asesoría técnica de La Corporación Andina de Fomento, el cual tuvo como finalidad iniciar esta discusión ética sobre los usos de la inteligencia artificial en Colombia y el mundo, y presenta recomendaciones para ser adoptadas en la eventual formulación de una política de este tipo.
Igualmente, en este documento CONPES se reconoció que uno de los principales fenómenos que debía enfrentar el país, en materia de Inteligencia Artificial era el de las asimetrías de información entre diferentes actores tanto al interior del país como internacionalmente. Esto justificó la creación de una Misión de Expertos en Inteligencia Artificial, la cual reunió periódicamente a un grupo de expertos para evaluar las diferentes dimensiones de Inteligencia Artificial y producir recomendaciones en el corto, mediano y largo plazo.
CONPES 4023 – Política para la Reactivación, la Repotenciación y el Crecimiento Sostenible e Incluyente: Nuevo Compromiso por el Futuro de Colombia. Documento con fecha 11 de febrero de 2021, cuyo enfoque es la reactivación y crecimiento de la economía tras la pandemia por COVID-19, donde entre otros aspectos, se establece que las entidades públicas tienen una capacidad baja para el aprovechamiento de datos, y se evidencia la necesidad de un grupo de gobernanza de datos. Adicionalmente se plantea la necesidad de mejorar las capacidades técnicas del país en la materia, recurriendo a la cooperación internacional como una alternativa realista.
REFERENTES INTERNACIONALES
l. Reglamento General de Protección de Datos (GDPR) – Unión Europea: Aunque no se enfoca específicamente en la regulación de la IA, el GDPR establece normas estrictas sobre la protección de datos personales, incluyendo aquellos utilizados por sistemas de IA, lo que afecta directamente el desarrollo y uso de tecnologías de IA en la región.
2. Ley de Protección del Consumidor de Algoritmos – Nueva York, EE. UU.: Esta ley, aprobada en 2021, requiere que los proveedores de servicios financieros utilicen explicabilidad en los algoritmos utilizados para tomar decisiones relacionadas con créditos, préstamos y seguros.
3. Ley de Transparencia en los Sistemas de Inteligencia Artificial – California, EE. UU.: Aprobada en 2019, esta ley establece requisitos para que los fabricantes de robots autónomos y sistemas de IA divulguen información sobre cómo se utilizan los datos recopilados y cómo se toman las decisiones.
4. Marco Ético y de Seguridad para la Inteligencia Artificial – Canadá: En 2019, Canadá publicó un marco que establece principios y guías para el desarrollo ético y seguro de la IA en el país.
5. Principios de IA del Gobierno de Singapur: Singapur ha publicado un conjunto de principios éticos para el uso de la IA, con un enfoque en la transparencia, la responsabilidad y la justicia.
6. Ley sobre las Bases de Datos Biométricos – India: La Corte Suprema de India dictaminó en 2018 que el uso de datos biométricos, incluyendo tecnologías de reconocimiento facial, solo se puede utilizar para fines específicos y legítimos, protegiendo así la privacidad de los ciudadanos.
7. Estrategia Nacional de IA – Emiratos Árabes. Unidos: El país ha lanzado una estrategia nacional para la IA con el objetivo de mejorar la eficiencia gubernamental y fomentar la innovación en sectores como el transporte y la salud.
Cordialmente,
PEDRO H. FLOREZ PORRAS
Senador de la República
SANDRA RAMIREZ LOBO SILVA
Senadora de la República
SANDRA YANETH JAIMES CRUZ
Senadora de la República
JULIO ALBERTO ELÍAS VIDAL
Senador de la República
SOLEDAD TAMAYO TAMAYO
Senadora de la República
GUSTAVO ADOLFO MORENO HURTADO
Senador de la República.
Secretaría General (Art. 139 y ss Ley 5ª de 1.992)
El día 09 del mes Agoto del año 2023, se radicó en este despacho el proyecto de ley nº 91. Acto Legislativo nº ,con todos y cada uno de los requisitos constitucionales y legales por Pedro H. Flores P., Sandra Ramírez Silva, Sandra Janeth Jaimes, Julio A. Elías Vidal, Soledad Tamayo, Gustavo A. Moreno Hurtado
SECRETARÍA GENERAL