Llamamiento de Roma por la Ética de la Inteligencia Artificial

Auspiciado por la Santa Sede, en 2020 se lanza el Llamamiento de Roma por la Ética de la Inteligencia Artificial (Rome Call for AI Ethics) que propugna una perspectiva en la que la inteligencia artificial (IA) se desarrolle centrándose no en la tecnología, sino más bien por el bien de la humanidad y del medio ambiente, de nuestro hogar común y compartido y de sus habitantes humanos, que están inextricablemente conectados.

Establece seis principios:

1. Transparencia: en principio, los sistemas de IA deben poder explicarse;
2. Inclusión: deben tenerse en cuenta las necesidades de todos los seres humanos para que todos puedan beneficiarse y se ofrezcan a todos los individuos las mejores condiciones posibles para expresarse y desarrollarse;
3. Responsabilidad: quienes diseñen y desplieguen el uso de la IA deben proceder con responsabilidad y transparencia;
4. Imparcialidad: no crear ni actuar según prejuicios, salvaguardando así la equidad y la dignidad humana;
5. Fiabilidad: los sistemas de IA deben poder funcionar de forma fiable;
6. Seguridad y privacidad: los sistemas de IA deben funcionar de forma segura y respetar la privacidad de los usuarios.

Ahora que los LLM se han popularizado, resulta preocupante cómo muy pocos cuestionan el proceso de decisión que siguen o la calidad de los datos de entrenamiento. Menos mal que existen plataformas como https://lmarena.ai/ que nos ayudan a cuestionarnos los nuevos becerros de oro.