Nel nostro progetto creeremo linee guida etiche e femministe per la produzione di robot sessuali. Abbiamo organizzato dei workshop per raccogliere idee e suggerimenti per queste linee guida. Questi workshop si sono basati su due documenti. Uno si chiama “Ethics Guidelines for Trustworthy AI” (Linee guida etiche per un’intelligenza artificiale affidabile) ed è stato redatto dalla Commissione europea. Con questo post vogliamo presentare tale documento.
“Linee guida etiche per un’IA affidabile”:
7 requisiti chiave che i sistemi di IA dovrebbero soddisfare per essere considerati affidabili:
- Agenzia e supervisione umana: i sistemi di IA dovrebbero dare potere agli esseri umani, consentendo loro di prendere decisioni informate e promuovendo i loro diritti fondamentali. Allo stesso tempo, devono essere garantiti adeguati meccanismi di supervisione, che possono essere ottenuti attraverso approcci di tipo human-in-the-loop, human-on-the-loop e human-in-command.
- Robustezza tecnica e sicurezza: I sistemi di intelligenza artificiale devono essere resilienti e sicuri. Devono essere sicuri, garantendo un piano di ripiego nel caso in cui qualcosa vada storto, oltre a essere precisi, affidabili e riproducibili. Questo è l’unico modo per garantire che anche i danni involontari possano essere ridotti al minimo e prevenuti.
- Privacy e governance dei dati: oltre a garantire il pieno rispetto della privacy e della protezione dei dati, è necessario assicurare adeguati meccanismi di governance dei dati, tenendo conto della qualità e dell’integrità dei dati e garantendo un accesso legittimato ai dati.
- Trasparenza: i dati, il sistema e i modelli di business dell’IA devono essere trasparenti. I meccanismi di tracciabilità possono aiutare a raggiungere questo obiettivo. Inoltre, i sistemi di IA e le loro decisioni devono essere spiegati in modo adeguato alle parti interessate. Gli esseri umani devono essere consapevoli che stanno interagendo con un sistema di IA e devono essere informati delle capacità e dei limiti del sistema.
- Diversità, non discriminazione ed equità: è necessario evitare pregiudizi ingiusti, poiché potrebbero avere molteplici implicazioni negative, dall’emarginazione di gruppi vulnerabili all’esacerbazione di pregiudizi e discriminazioni. Per promuovere la diversità, i sistemi di IA dovrebbero essere accessibili a tutti, indipendentemente da qualsiasi disabilità, e coinvolgere le parti interessate durante l’intero ciclo di vita.
- Benessere sociale e ambientale: I sistemi di IA dovrebbero essere utili a tutti gli esseri umani, comprese le generazioni future. Occorre quindi garantire che siano sostenibili e rispettosi dell’ambiente. Inoltre, devono tenere conto dell’ambiente, compresi gli altri esseri viventi, e il loro impatto sociale e societario deve essere attentamente considerato.
- Responsabilità: Devono essere messi in atto meccanismi per garantire la responsabilità e l’affidabilità dei sistemi di IA e dei loro risultati. La verificabilità, che consente di valutare gli algoritmi, i dati e i processi di progettazione, svolge un ruolo fondamentale, soprattutto nelle applicazioni critiche. Inoltre, deve essere garantito un ricorso adeguato e accessibile.