En nuestro proyecto crearemos directrices éticas y feministas para la producción de robots sexuales. Organizamos talleres para obtener ideas y aportaciones para esas directrices. Estos talleres se basaron en dos documentos: uno se llama Ethics Guidelines for Trustworthy AI (Directrices éticas para una IA fiable), elaborado por la Comisión Europea, que queremos presentar con esta publicación.
7 requisitos clave que deben cumplir los sistemas de IA para ser considerados fiables:
- Agencia y supervisión humanas: los sistemas de IA deben capacitar a los seres humanos, permitiéndoles tomar decisiones informadas y fomentando sus derechos fundamentales. Al mismo tiempo, deben garantizarse mecanismos de supervisión adecuados, lo que puede lograrse mediante enfoques basados en human-in-the-loop, human-on-the-loop y human-in-command.
- Robustez técnica y seguridad: los sistemas de IA deben ser resistentes y seguros, garantizar un plan de emergencia en caso de que algo vaya mal y ser precisos, fiables y reproducibles. Sólo así se podrá minimizar y prevenir el daño involuntario.
- Privacidad y gobernanza de los datos: además de garantizar el pleno respeto de la privacidad y la protección de los datos, también deben garantizarse mecanismos adecuados de gobernanza de los datos teniendo en cuenta su calidad e integridad y garantizando un acceso legitimado a los mismos.
- Transparencia: los datos, el sistema y los modelos de negocio de la IA deben ser transparentes. Los mecanismos de trazabilidad pueden ayudar a conseguirlo. Además, los sistemas de IA y sus decisiones deben explicarse de forma adaptada a la parte interesada. Las personas deben ser conscientes de que están interactuando con un sistema de IA, y deben ser informadas de las capacidades y limitaciones del sistema.
- Diversidad, no discriminación y equidad: deben evitarse los prejuicios injustos, ya que podrían tener múltiples implicaciones negativas, desde la marginación de grupos vulnerables hasta la exacerbación de los prejuicios y la discriminación. Para fomentar la diversidad, los sistemas de IA deben ser accesibles para todos/as, independientemente de cualquier discapacidad, e implicar a las partes interesadas pertinentes a lo largo de todo su círculo vital.
- Bienestar social y medioambiental: los sistemas de IA deben beneficiar a todos los seres humanos, incluidas las generaciones futuras. Por tanto, debe garantizarse que sean sostenibles y respetuosos con el medio ambiente. Además, deben tener en cuenta a otros seres vivos y su impacto social debe estudiarse detenidamente.
- Responsabilidad: deben establecerse mecanismos que garanticen la responsabilidad de los sistemas de IA y sus resultados. La auditabilidad, que permite la evaluación de algoritmos, datos y procesos de diseño, desempeña un papel clave en este sentido, especialmente en aplicaciones críticas. Además, debe garantizarse una reparación adecuada y accesible.