Een groep topwetenschappers en politici heeft tijdens de tachtigste sessie van de Algemene Vergadering van de Verenigde Naties een dringende oproep gedaan om internationale afspraken te maken over regels voor AI-software.
Ze dringen er bij regeringen op aan om eind 2026 een internationale overeenkomst te hebben gesloten over wat de ‘rode lijnen voor AI’ zijn. Deze regels moeten niet alleen operationeel zijn, maar ook voorzien van robuuste mechanismen om ze te handhaven. Onder de oproep staan de namen van bekende wetenschappers en politici, waaronder tien Nobelprijswinnaars, en meer dan zeventig organisaties.
De oproep benadrukt zowel de voordelen van AI, zoals het voorspellen van hartinfarcten en het versnellen van de ontwikkeling van medicijnen, als de risico's, zoals gevaarlijke virussen, grootschalige desinformatie en massawerkloosheid. De experts waarschuwen dat sommige AI-systemen al schadelijk gedrag hebben vertoond en dat de software steeds autonomer en krachtiger wordt. Ze pleiten voor een internationale overeenkomst om universeel onaanvaardbare risico’s te voorkomen.
Bron: De Ingenieur