Izvršni direktori nekoliko velikih tvrtki za umjetnu inteligenciju poziva članove Kongresa da usvoje nove zakone koji bi lošim akterima otežali razvoj biološkog oružja koristeći njihovu tehnologiju.
Demis Hassabis iz Google DeepMinda, Sam Altman iz OpenAI-ja, Dario Amodei iz Anthropica i Mustafa Suleyman iz Microsofta AI među potpisnicima su javno pismo pozivajući na zakone koji zahtijevaju od tvrtki koje prodaju sintetičku DNA i RNA da provjere kupce i naredbe za sprječavanje zlouporabe genetskog materijala.
U organizaciji nestranačkog Instituta za napredak i desno orijentirane Zaklade za američke inovacije, pismo priznaje da s obzirom na tempo razvoja umjetne inteligencije, “postoji stvarna mogućnost da će prepreke znanja koje su povijesno sprječavale loše aktere u nabavi biološkog oružja značajno nestati.”
Znanstvenik Arthur Kornberg prvi je uspješno sintetizirao DNK 1950-ih. Sada je proces automatiziran, a deseci tvrtki širom svijeta koriste komercijalne sintesajzere za “ispis” i prodaju prilagođenih genetskih sekvenci koje se koriste za znanstvena istraživanja, razvoj lijekova i dijagnostiku. Mnogi pružatelji usluga prodaju samo kvalificiranim istraživačima, biotehnološkim tvrtkama i obrazovnim institucijama, ali ne svi oni provjeravaju kupce ili sekvence gena koje naručuju.
Godine 2017. kanadski su istraživači podigli uzbunu kada su upotrijebili 100.000 dolara vrijednu DNK poštom za rekonstituciju izumrlog virusa konjskih boginja. Kritičari su rekli da bi se ista metodologija mogla koristiti za konstruiranje velikih boginja, blisko povezanog i smrtonosnog virusa. Sinteza gena je od tada samo pojeftinila.
U kombinaciji s napretkom u umjetnoj inteligenciji, sada je moguće dizajnirati opasne nove toksine i patogene koristeći velike jezične modele, iako bi malo biološke obuke vjerojatno još uvijek bilo potrebno za izradu funkcionalnog virusa od nule. Iako su bioteroristički napadi rijetki, oni imaju potencijal izazvati masovne žrtve, javnu paniku i ekonomski gubitak. Velika zabrinutost je da bi patogen koji je dizajnirao AI mogao namjerno ili nenamjerno izazvati globalnu pandemiju.
“Alati umjetne inteligencije omogućuju korisniku da vrlo brzo identificira gdje se obratiti kako bi naručio sekvence koje neće biti podvrgnute probiru”, kaže David Relman, mikrobiolog i stručnjak za biosigurnost sa Sveučilišta Stanford, koji je potpisao pismo. “Ako se to zatraži na odgovarajući način, također vam mogu reći kako promijeniti prirodu svoje narudžbe, tako da čak i oni koji provjeravaju mogu biti mnogo manje sposobni otkriti što pokušavate napraviti.”
Među potpisnicima su i drugi znanstvenici, stručnjaci za nacionalnu sigurnost i rukovoditelji tvrtki za sintezu gena Twist Bioscience i Ansa Biotechnologies. Te su tvrtke članice Međunarodnog konzorcija za sintezu gena, koji je osnovan 2009. za provedbu prakse dobrovoljnog probira. Mnoge tvrtke već koriste softver za provjeru narudžbi za “sekvence koje izazivaju zabrinutost” koje mogu pridonijeti toksičnosti organizma ili sposobnosti da izazove bolest.
“Ako imate tehnologiju koja je sposobna sintetizirati DNK, trebali biste se pobrinuti da se ona koristi odgovorno, a dio toga je da budete sigurni da razumijete što stvarate i za koga to radite”, kaže James Diggans, potpredsjednik politike i biosigurnosti u Twist Bioscience. Tvrtka godinama podupire provedbu formalnih pravila.
savezni smjernice uveden tijekom Bidenove administracije zahtijevao je od znanstvenika i tvrtki koje primaju federalna sredstva da naručuju sintetičke sekvence gena od dobavljača koji provjeravaju kupnju. A dvostranački račun predstavljen ranije ove godine u Senatu zahtijevat će od svih dobavljača sinteze gena koji rade u SAD-u da provjeravaju narudžbe i kupce na loše aktere ili opasne patogene.
Ali alati za probir nisu savršeni. Prošle su godine Microsoftovi istraživači objavili a studija pokazujući da su alati za dizajn proteina umjetne inteligencije bili u stanju generirati potencijalno opasne sekvence gena koji su promakli softveru za provjeru tvrtki. Modeli su sugerirali nove sekvence proteina sa sličnim strukturama onima za koje se zna da su opasni.
Geoff Ralston, bivši predsjednik Y Combinatora i partner u Safe AI Fundu, smatra da bi laboratoriji za umjetnu inteligenciju s biološkim modelima trebali napraviti vlastitu provjeru korisnika.
“Trebalo bi biti vrlo teško, ako ne i nemoguće, zamoliti modela da vam pomogne učiniti nešto neposredno opasno”, kaže Ralston, koji je također potpisao pismo.
Relman se slaže da su propisi oko postupaka probira samo dio rješenja. “S obzirom na to da skrining može biti neuspješan u nekim slučajevima, tada moramo imati druge točke kontrole”, kaže on. “Tu će se tvrtke s umjetnom inteligencijom morati pojačati.”