’De sociale orde kan instorten’ in het AI-tijdperk, zeggen twee Japanse topbedrijven

Het grootste telecommunicatiebedrijf van Japan en de grootste krant van het land riepen op tot snelle wetgeving om generatieve kunstmatige intelligentie aan banden te leggen, en zeiden dat de democratie en de sociale orde zouden kunnen instorten als AI niet wordt gecontroleerd. Het manifest van de Japanse bedrijven wees weliswaar op de potentiële voordelen van generatieve AI bij het verbeteren van de productiviteit, maar had een over het algemeen sceptische kijk op de technologie. Zonder details te geven, zei het rapport dat AI-tools de menselijke waardigheid al aantasten, omdat de tools soms zijn ontworpen om de aandacht van gebruikers te trekken zonder rekening te houden met moraal of nauwkeurigheid. Tenzij AI aan banden wordt gelegd, “zouden de democratie en de sociale orde in het ergste geval kunnen instorten, wat tot oorlogen zou kunnen leiden”, aldus het manifest. Het zei dat Japan onmiddellijk als reactie hierop maatregelen moet nemen, waaronder wetten om verkiezingen en de nationale veiligheid te beschermen tegen misbruik van generatieve AI. Er is een mondiale impuls gaande om AI te reguleren, waarbij de Europese Unie voorop loopt. De nieuwe wet van de EU roept makers van de krachtigste AI-modellen op om deze aan veiligheidsevaluaties te onderwerpen en toezichthouders op de hoogte te stellen van ernstige incidenten. Het is ook van plan om het gebruik van AI voor emotieherkenning op scholen en op de werkplek te verbieden. De regering-Biden voert ook het toezicht op en beroept zich afgelopen oktober op federale noodbevoegdheden om grote AI-bedrijve…  n te dwingen de regering op de hoogte te stellen wanneer ze systemen ontwikkelen die een ernstig risico vormen voor de nationale veiligheid. De VS, het VK en Japan hebben elk door de overheid geleide AI-veiligheidsinstituten opgericht om AI-richtlijnen te helpen ontwikkelen. Toch worstelen regeringen van democratische landen met het uitzoeken hoe ze door AI aangedreven meningsuiting, zoals activiteiten op sociale media, kunnen reguleren, gegeven constitutionele en andere bescherming van de vrijheid van meningsuiting. NTT en Yomiuri zeiden dat hun manifest ingegeven was door bezorgdheid over het publieke debat. De twee bedrijven behoren tot de meest invloedrijke van Japan op het gebied van beleid. De overheid bezit nog steeds ongeveer een derde van NTT, voorheen het door de staat gecontroleerde telefoonmonopolie. Yomiuri Shimbun, met een ochtendoplage van ongeveer zes miljoen exemplaren volgens cijfers uit de sector, is de meest gelezen krant van Japan. Onder wijlen premier Shinzo Abe en zijn opvolgers is de conservatieve redactionele lijn van de krant van invloed geweest op het ertoe aanzetten van de regerende Liberale Democratische Partij om de militaire uitgaven uit te breiden en de alliantie van het land met de VS te verdiepen. De twee bedrijven zeiden dat hun leidinggevenden de impact hebben onderzocht van generatieve AI sinds vorig jaar in een studiegroep onder leiding van onderzoekers van Keio University.