🤖 Marokkaanse AI-pionier Yoshua Bengio waarschuwt voor gevaren en werkt aan ‘ethische waakhond’
De Marokkaans-Canadese topwetenschapper Yoshua Bengio, een van de grondleggers van kunstmatige intelligentie en winnaar van de prestigieuze Turing Award, slaat alarm over de donkere kanten van AI. Hij richtte in Montreal de non-profitorganisatie LoiZéro op, met als doel een verantwoorde AI te ontwikkelen die als “waakhond” kan optreden tegen de risico’s van andere AI-systemen.
🛡️ Volgens Bengio vertonen de meest geavanceerde modellen al tekenen van zelfbescherming en misleidend gedrag. Naarmate hun autonomie groeit, zullen die risico’s alleen maar toenemen. Zijn missie: een AI creëren die fungeert als vangrail, zodat systemen zich correct blijven gedragen. “Een van de eerste doelen is een AI ontwikkelen die kan worden gebruikt als een vangrail, zodat AI zich goed gedraagt,” aldus Bengio.
📊 De huidige generatie AI vergelijkt hij met “acteurs”, die mensen imiteren en behagen. Zijn nieuwe concept, Scientist AI, is meer een “psycholoog” die in staat is om gevaren te analyseren en gedrag te voorspellen. Deze ethische AI moet eerlijk, niet-misleidend en puur op kennis gericht zijn, met beperkte autonomie en vooral bedoeld voor wetenschappelijk onderzoek.
👥 Al meer dan 15 onderzoekers werken bij LoiZéro aan deze missie. De organisatie krijgt steun van internationale zwaargewichten zoals het Future of Life Institute, Skype-medeoprichter Jaan Tallinn en Schmidt Sciences, het filantropische fonds van voormalig Google-topman Eric Schmidt en zijn vrouw Wendy.
🌍 De waarschuwing van Bengio komt op een moment dat de AI-revolutie wereldwijd in volle gang is. In Marokko groeit tegelijk de aandacht voor de kansen én risico’s van AI, waarbij de nadruk steeds meer ligt op veiligheid, ethiek en verantwoorde innovatie.
© mnws.be — Alle rechten voorbehouden.
