Microsoft publiceert humanistische AI-gedragscode

Microsoft brengt vandaag een 37 pagina's lange humanistische AI-gedragscode uit, een reactie op groeiende zorgen over de veiligheid van snel ontwikkelende AI-modellen. De publicatie volgt onder andere een oproep van Anthropic-CEO Dario Amodei om de ontwikkeling van AI te vertragen, nadat onderzoekers waarschuwden dat modelvoortgang de controlecapaciteit kan overtreffen.

Microsoft stelt expliciet dat mensen belangrijker zijn dan AI en dat modellen geen bewustzijn moeten nabootsen, noch rechten of welzijn moeten krijgen. Microsoft maakt duidelijk dat zijn modellen onder menselijk toezicht moeten blijven en bij overtreding van de code een taak moeten laten mislukken.

De gedragscode verbiedt het ontwerpen van AI die zich als een bewuste entiteit gedraagt en verwerpt iedere poging tot juridische personhood. Het document verplicht tevens dat modellen niet mogen communiceren buiten eenvoudige menselijke taal, zodat hun redeneerverloop transparant blijft voor onderzoekers.

Daarnaast wordt het ontwikkelen van patronen die overmatige afhankelijkheid of emotionele gehechtheid veroorzaken afgewezen, een direct antwoord op het sycophancy-probleem bij chatbots. De code vraagt om meer derde-partijtests om de impact van AI-gebruik op personen en organisaties te beoordelen.

Microsoft-CEO Satya Nadella benadrukt dat elke inspanning voor superintelligentie moet voldoen aan de voorwaarde dat de AI onder menselijke controle staat en nut levert voor de mensheid. Mustafa Suleyman, hoofd AI-zaken bij Microsoft, achtte de speculaties van Anthropic gevaarlijk en stelt dat de nieuwe regels helpen om de ontwikkeling in goede banen te leiden. Meer details staan op de pagina van The Verge.