Tre av AI-branschens mest inflytelserika personer talade sent på onsdagskvällen inför FN:s säkerhetsråd: Sam Altman från OpenAI, Dario Amodei från Anthropic och Clément Delangue från Hugging Face, rapporterar SVT.
Budskapet var att världens ledare måste samarbeta om säker användning av tekniken.
Argumentet
Altman jämför med tidigare områden där rivaliserande stater ändå hittat gemensamma intressen: "Det har förekommit situationer där länder som konkurrerar ändå har kunnat förenas i gemensamma intressen. Vi anser att detta är en sådan situation."
Amodei varnade för att tekniken nu kan förbättra sig själv, vilket enligt honom riskerar att undergräva både mänsklig kontroll och mänsklig förståelse av vad systemen gör.
Den andra tonen
Delangue, vars företag bygger på öppna modeller, drog åt ett annat håll. Han beskrev en attack som mötts med samma slags teknik: "Vi attackerades av AI, men vad viktigare är, att vi försvarade oss med hjälp av AI."
Han varnade också för att bygga politik på rädsla: "Narrativ grundade i rädsla är inte vägen framåt vad gäller att ta rätta besluten om framtiden för en sådan central teknologi."
Varför det spelar roll vem som säger det
Säkerhetsrådet är inte ett forum där branschföreträdare brukar tala. Att de gör det innebär att AI numera behandlas som en säkerhetsfråga mellan stater.
Samtidigt är det värt att notera att de som efterfrågar regler är samma företag som reglerna ska gälla. Det har varit mönstret i AI-debatten i flera år: krav på styrning som samtidigt ger de etablerade aktörerna inflytande över hur styrningen utformas.
