Meta-chefen Mark Zuckerberg och Nvidias vd Jensen Huang avvisar kraven på en gemensam inbromsning av AI-utvecklingen. De anser att varje företag ska ansvara för säkerheten i sina egna modeller.
Därmed går de emot flera andra ledande teknikprofiler. Sam Altman, Dario Amodei och Elon Musk har alla varnat för att utvecklingen går så snabbt att den kan skapa allvarliga risker.
Zuckerberg vill inte se gemensam inbromsning
Mark Zuckerberg anser att säkra AI-modeller ligger i hela branschens intresse. Däremot ser han inget behov av regler som tvingar samtliga företag att bromsa utvecklingen samtidigt.
Meta väntade enligt Zuckerberg i flera månader med att lansera AI-tjänsten Muse. Företaget använde tiden till ytterligare säkerhetsarbete och tester.
Samtidigt krävde Meta inte att konkurrenterna skulle pausa sina egna lanseringar. Zuckerberg använder det som ett exempel på att företag kan fatta individuella säkerhetsbeslut.
Han vill därmed skilja mellan att prioritera säkerhet och att införa en gemensam begränsning för hela branschen.
Marknaden ska pressa företagen
Zuckerberg menar att AI-företag redan har ekonomiska och juridiska skäl att utveckla säkra produkter.
Ett bolag vars AI-modell orsakar skada kan möta omfattande ansvar. Problemen kan också skada företagets varumärke och försvaga kundernas förtroende.
Därför anser Zuckerberg att marknadens mekanismer skapar ett tydligt incitament att testa tekniken ordentligt.
Kritiker kan däremot hävda att konkurrensen driver företag att lansera nya modeller så snabbt som möjligt. Ett bolag som väntar riskerar att förlora användare och marknadsandelar till mer offensiva rivaler.
Frågan blir därmed om företagens egen riskbedömning räcker eller om gemensamma krav behövs.
Jensen Huang betonar företagens ansvar
Nvidias vd Jensen Huang delar i stora drag Zuckerbergs syn på frågan.
Enligt Huang måste varje företag utveckla och testa sina produkter noggrant. Om en AI-modell inte är redo för lansering ska företaget vänta och fortsätta förbättra den.
Han förespråkar alltså försiktighet på företagsnivå men ingen generell paus för hela sektorn.
Nvidia har blivit en av AI-boomens största vinnare. Företagets grafikkretsar används i de datacenter där utvecklare tränar och driver avancerade AI-modeller.
En bred inbromsning av AI-investeringarna skulle därför kunna påverka efterfrågan på Nvidias teknik.
Konkurrenterna varnar för riskerna
Uttalandena kommer efter flera skarpa varningar från andra profiler i teknikbranschen.
OpenAI-chefen Sam Altman och Anthropics vd Dario Amodei har lyft riskerna med allt mer avancerade AI-system. Elon Musk har också varnat för att utvecklingen kan få allvarliga följder för mänskligheten.
Deras oro handlar bland annat om modeller som får större förmåga att utföra avancerade uppgifter självständigt.
När systemen blir kraftfullare kan det också bli svårare att förutse hur de agerar i nya situationer. Därför vill flera branschprofiler se starkare skydd innan kapaciteten ökar ytterligare.
Skillnaderna mellan teknikcheferna gäller alltså inte bara om AI innebär risker. Debatten handlar främst om vem som ska hantera dem och om utvecklingen behöver bromsas.
Frivillighet ställs mot gemensamma regler
Zuckerberg och Huang förespråkar i första hand företagens eget ansvar. Andra röster vill se gemensamma standarder, regler eller en långsammare utvecklingstakt.
Fördelen med frivilliga åtgärder är att företagen kan anpassa säkerhetsarbetet efter sina modeller och produkter. Det kan också göra det möjligt att fortsätta utveckla användbar teknik utan omfattande förseningar.
Samtidigt kan företagen bedöma riskerna på olika sätt. Ett bolag kan välja att lansera en produkt som en konkurrent skulle ha fortsatt testa.
Gemensamma krav kan skapa en tydligare lägstanivå för hela branschen. Däremot kan reglerna bli svåra att utforma eftersom tekniken utvecklas snabbt och används inom många olika områden.
AI-kapplöpningen fortsätter
Debatten visar hur splittrad teknikbranschen är kring säkerhet och utvecklingstakt.
De ledande företagen konkurrerar om användare, talanger, datorkapacitet och investeringar. Därför har varje försening både tekniska och ekonomiska konsekvenser.
Meta utvecklar egna modeller och konsumenttjänster, medan Nvidia levererar en stor del av infrastrukturen bakom AI-boomen. OpenAI och Anthropic konkurrerar samtidigt om att bygga de mest avancerade systemen.
Zuckerberg och Huang anser att säkerheten ska prioriteras utan en gemensam inbromsning. Deras konkurrenter varnar däremot för att en fortsatt kapplöpning kan skapa risker som enskilda företag inte kan hantera själva.