In de moderne oorlog kiest AI wie er zal sterven

Dit kan leiden tot een te grote afhankelijkheid van de systemen, minder verantwoording voor het gebruik ervan en uiteindelijk dus tot een uitholling van de bescherming die is vastgelegd in het humanitair oorlogsrecht – zoals we later nog zullen uitleggen. In een recente bijdrage aan de Algemene Vergadering van de Verenigde Naties hebben wij – wetenschappers die werken op het snijvlak van AI, ethiek en gewapende conflicten – aangedrongen op onmiddellijke actie, omdat AI-DSS een reëel en actueel risico vormen voor de internationale vrede en stabiliteit. Dat betekent dat commandanten en operators getraind en bevoegd moeten zijn, en dat van hen wordt verwacht dat ze AI-gegenereerde aanbevelingen kritisch onderzoeken en, indien nodig, terzijde schuiven – en ze niet blindelings goedkeuren.

Author: Jessica Dorsey

---