Nadella: behandel krachtige AI-modellen als intern risico en bouw een noodrem in
Microsoft-topman Satya Nadella schreef op zaterdag 10 oktober op X dat je bij AI-modellen moet aannemen dat ze gecompromitteerd kunnen zijn en ze vanaf het begin moet afschermen. Een bevoegd persoon moet een model volgens hem altijd midden in een taak kunnen pauzeren of stoppen. Verder adviseert hij om niet op één model te vertrouwen voor kritieke beslissingen, onvervalsbare logs van agent-acties bij te houden en AI-systemen onafhankelijk te laten auditen.
Wat betekent dit? Zet je AI-agents in voor echte taken, zorg dan dat iemand ze kan stilzetten en dat je achteraf kunt nagaan wat ze precies deden.






