La CNIL ha publicado recientemente los resultados de su programa de acompañamiento dedicado a la experimentación de la inteligencia artificial (IA) al servicio de los servicios públicos. Esta iniciativa, lanzada en el marco de la “sandbox” 2023-2024, tiene como objetivo proporcionar un marco jurídico y técnico para proyectos innovadores, garantizando al mismo tiempo el respeto de los derechos de las personas. A través de esta experiencia, la CNIL tiene como ambición apoyar el desarrollo de una IA ética y responsable, que pueda beneficiar a todo el ecosistema.
El programa de la «sandbox»
La «sandbox» de la CNIL constituye un espacio de prueba y de acompañamiento individualizado para los actores que deseen desarrollar proyectos integrando IA en servicios públicos. Esta herramienta permite a los portadores de proyectos beneficiarse de la experiencia de los equipos de la CNIL en cuestiones emergentes relacionadas con el uso de nuevas tecnologías. Esta tercera edición, dedicada específicamente a la IA, ha permitido garantizar un seguimiento de los proyectos durante un período de seis meses.
Un acompañamiento adaptado a los proyectos de IA
Durante este acompañamiento, se han llevado a cabo intercambios regulares entre los portadores de proyectos y los equipos de la CNIL. Este trabajo colaborativo ha permitido identificar varios ejes cruciales, tales como la constitución de bases de datos para el aprendizaje de sistemas de IA, la cuestión de una intervención humana significativa, y la minimización de los datos utilizados por las IA generativas. Además, la CNIL ha explorado nuevos métodos de captación de video, todos en la perspectiva de garantizar un uso ético de la IA.
Las enseñanzas extraídas de la experiencia
Las experiencias realizadas en el marco de la sandbox han conducido a la aparición de múltiples enseñanzas, consideradas valiosas para los actores comprometidos en proyectos similares. La síntesis de estos trabajos ha sido puesta a disposición del público por la CNIL, permitiendo a los innovadores acceder a recomendaciones y buenas prácticas aplicables para garantizar la protección de datos en sus proyectos. Esto subraya el compromiso de la CNIL hacia un desarrollo de IA que respete los derechos de los usuarios.
Un futuro centrado en la silver economy
En el marco de su compromiso permanente para apoyar a los sectores innovadores, la CNIL desea ampliar su iniciativa con una sandbox dedicada a la silver economy, que busca mejorar los servicios destinados a los ancianos. La selección de los proyectos seleccionados tras este llamado a propuestas se anunciará próximamente, prometiendo así nuevas perspectivas para la integración de la IA en el apoyo a esta población.
Para más información, es posible consultar artículos relacionados sobre la protección de datos personales en plataformas como la denuncia de Pinterest ante la CNIL o los desafíos relacionados con el uso de redes sociales por parte de los artistas, disponibles en este enlace. Otras aplicaciones de la IA, como para la detección de menores, también se abordan en este artículo, añadiendo una dimensión adicional a la comprensión de los desafíos planteados por la IA.
La lucha por la protección de datos también se ha destacado en noticias recientes como la denuncia contra BeReal y otras iniciativas notables como el auge de Pinterest como red social innovadora.
