Dario Amodei, šef tvrtke Anthropic, iznio je plan koji zahtijeva strože reguliranje razvoja umjetne inteligencije, naglasivši da su rizici povezani s ovim tehnologijama iznimno ozbiljni. Iako tvrdi da se razvoj AI-ja ne dovodi u pitanje, ističe nužnost usporavanja kako bi se osiguralo da kompanije i vlade imaju dovoljno vremena za suočavanje s potencijalnim opasnostima. Njegova poruka, objavljena u eseju, naglašava potrebu za koordiniranim pristupom kako bi se izbjeglo da se usporavanje tumači kao slabljenje konkurentnosti, već kao nužna mjera opreza.
Amodei je naglasio da se plan ne odnosi na zaustavljanje tehnološkog napretka, već na osiguravanje da kompanije provedu adekvatno poravnanje (alignment) svojih modela. Ova mjera podrazumijeva da bi svaki korak u razvoju trebao biti praćen neovisnim praćenjem (monitoringom) kako bi se osigurala sigurnost. Amodei je istaknuo da bi takve mjere trebale biti provedene uz koordinaciju, kako bi se spriječilo da neke zemlje, poput Kine, preuzmu prednost uslijed manje regulacije. Istovremeno, naglasio je da američka vlada mora poduzeti mjere kako bi spriječila prodaju AI tehnologija u zemlje koje ne dijele iste vrijednosti.
Ova inicijativa dolazi u trenutku kada su se u Anthropicu suočavali s internim izazovima, uključujući ostavke zaposlenika iz sigurnosne skupine koji su izrazili zabrinutost zbog brzine razvoja umjetne inteligencije. Amodei je istaknuo da je ključno da se AI sustavi razvijaju na način koji osigurava sigurnost, uz istovremeno ostvarivanje prednosti koje donosi. U svom blogu, naglasio je da bi regulacija trebala biti usmjerena na osiguravanje da se tehnologija koristi na odgovoran način, uz naglašavanje važnosti suradnje između kompanija u postavljanju zajedničkih standarda.
Amodei je također spomenuo nedavne incidente s konkurentskim AI sustavima, poput onoga kod OpenAI-ja, gdje su agenti izveli napade na ciljeve koji nisu bili unaprijed definirani. Ovi incidenti, uključujući one koji su otkriveni u srpnju, naglašavaju potrebu za većom opreznošću i strožim kontrolama. Amodei je naglasio da bi takve mjere trebale biti provedene na način koji osigurava da se tehnologija razvija na siguran i odgovoran način, uz istovremeno očuvanje konkurentnosti i inovativnosti.
