El cruce entre Inteligencia Artificial y ética

La nueva Política Nacional de Inteligencia Artificial presentada hace unos días por el Ministerio de Ciencia recuerda que el desarrollo, adopción y uso de toda tecnología deben someterse a estándares éticos y normativos, recuerda en esta columna de opinión para CIPER la directora nacional de la ANID. Sin la adecuada regulación del Estado y la información de los usuarios, «las posibilidades de que su uso perjudique en lugar de aportar son reales».

Hace veinte años que Steven Spielberg estrenó la película AI (Artificial Intelligence), una distopía sobre cómo la tecnología, materializada en un niño no humano, es utilizada sin éxito para sanar el irreparable dolor ocasionado por el fallecimiento de un hijo. Muchas de las preguntas planteadas allí siguen estando presentes, aunque ya no solo en la imaginación de guionistas en Hollywood sino que en cada uno de los aspectos de nuestra vida desarrollados hoy a través de medios digitales. Precisamente para orientar políticas públicas digitales en la materia, el Gobierno de Chile ha lanzado hace unos días su primera Política Nacional de Inteligencia Artificial (IA).

Su elaboración ocupó a un comité interdisciplinario de doce expertos y expertas, mientras que nueve mil personas contribuyeron a través de un proceso participativo inédito, diseñado para hacer de este documento,un plan legítimo y validado por la ciudadanía.

¿Pero qué es la IA? La Organización para la Cooperación y el Desarrollo Económico (OCDE) define la Inteligencia Artificial como «un sistema computacional que puede, para un determinado conjunto de objetivos definidos por humanos, hacer predicciones y recomendaciones o tomar decisiones que influyen en entornos reales o virtuales. Los sistemas de IA están diseñados para operar con distintos niveles de autonomía».

La nueva Política Nacional recién presentada muestra la IA como una herramienta. Como toda tecnología de propósito general, su desarrollo, adopción y utilización deben someterse a los estándares éticos y normativos de nuestra sociedad. El rol del Estado es lograr el justo balance para que el crecimiento de nuestras capacidades en la materia se consiga poniendo el bienestar de todas y todos como valor principal. Plantea como puntos de partida éticos el respeto de los derechos humanos, la promoción de la inclusión y la sostenibilidad en el desarrollo tecnológico, además de abordar temas como la equidad de género, el uso y desarrollo responsable de la IA y la transparencia algorítmica. A nivel técnico, reconoce el rol del Estado en la generación de capacidades habilitantes como infraestructura, datos y talento, además de la promoción del desarrollo y adopción de nuevas herramientas en temas como la modernización de la administración pública y el cambio climático.

En general, en el caso de las tecnologías más complejas, si no existe regulación y empoderamiento de quienes las utilizan, las posibilidades de que su uso perjudique en lugar de aportar son reales. 

Por ejemplo, junto con promover el uso de la IA para mejorar la precisión en los diagnósticos médicos, es necesario impedir que esas mismas técnicas se utilicen para excluir a mujeres en edad fértil de los procesos de selección laboral. Junto con promover el desarrollo de herramientas basadas en IA para mejorar la experiencia de usuarios en el consumo de bienes o servicios, se debe empoderar a los usuarios de dichas tecnologías, y promover la transparencia de los algoritmos que las guían, para así evitar que esas mismas herramientas afecten los derechos de los consumidores o fortalezcan prejuicios.  Junto con promover la incorporación de IA en los emprendimientos de base científica tecnológica y lograr, por ejemplo, la fabricación de alimentos especiales para personas con alergias alimentarias, se debe fortalecer y lograr la equidad de género en los equipos que los componen.

La política de IA apunta a ese doble objetivo. Chile cuenta con capacidades relevantes a nivel global en materia de datos, infraestructura y conectividad. La fibra óptica austral, la instalación de data-centers en Chile, los importantes esfuerzos en materia de acceso a datos e información científica e incluso nuestras características geográficas nos hacen un actor relevante en la materia. Nuestro país es uno de los mayores productores de datos astronómicos y un laboratorio natural para el estudio del cambio climático mediante datos. Chile tiene, sin embargo, un atraso en la regulación, y estamos claramente al debe en inclusión de género, territorial y otras diversidades en el ámbito de las tecnologías digitales. Solo a modo de ejemplo, dentro de los proyectos Fondecyt, el principal fondo de investigación científica, los proyectos liderados por mujeres dentro del área Ingeniería y Tecnología, representan alrededor de un 22% (en otros programas, como Fondef, fue de un 24%) (Fuente: Reporte Participación Femenina 2020 ANID). Lograr un mejor balance es clave para un real desarrollo y potencial liderazgo en IA que es lo que busca la política.

Este balance dista mucho de las imágenes futuristas asociadas a robots que hablan y se comportan como humanos con el que algunas veces asociamos a la IA, pero se parece mucho más a una visión de desarrollo basada en la participación y la equidad, donde las tecnologías ocupan el lugar que les corresponde, el de herramientas al servicio del bienestar de todos y todas. Ya que al final del día, el desarrollo de los países no puede depender de una tecnología como la IA, pero sí de la inteligencia colectiva que se manifiesta en lograr una visión común.