Capacitățile de ultimă oră ale inteligenței artificiale înseamnă că sistemele AI sunt capabile să detecteze bolile devreme, să gestioneze reacțiile chimice și să explice unele dintre misterele Universului.
Noile cercetări subliniază cât de ușor pot fi antrenate modelele de inteligență artificială în scopuri rău intenționate, precum și bune, mai ales pentru a imagina modelele pentru agenții de arme biologice ipotetice. O încercare cu o inteligență artificială existentă a identificat 40.000 de astfel de substanțe chimice pentru arme biologice în doar șase ore.
Cu alte cuvinte, în timp ce AI poate fi incredibil de puternică – și mult, mult mai rapidă decât oamenii – atunci când vine vorba de identificarea combinațiilor chimice și a compușilor de medicamente pentru a ne îmbunătăți sănătatea, aceeași putere poate fi folosită pentru a crea substanțe potențial foarte periculoase și mortale.
„Am petrecut zeci de ani folosind computere și AI pentru a îmbunătăți sănătatea umană – nu pentru a o degrada”, scriu cercetătorii.
„Suntem naivi când ne gândim la potențiala utilizare greșită a comerțului nostru, deoarece scopul nostru a fost întotdeauna să evităm caracteristicile moleculare care ar putea interfera cu multe clase diferite de proteine esențiale vieții umane”, au adăugat aceștia.
Ce au testat oamenii de știință
Echipa a prezentat testul la o conferință internațională de securitate, punând în funcțiune un sistem AI numit MegaSyn – nu în modul său normal de funcționare, care este să detecteze toxicitatea în molecule pentru a le evita, ci să facă exact opusul.
În experiment, moleculele toxice au fost mai degrabă păstrate decât eliminate. În plus, modelul a fost antrenat pentru a pune aceste molecule împreună în combinații, astfel încât au fost generate atât de multe arme biologice ipotetice într-un timp atât de scurt. Cercetătorii au instruit IA cu molecule din baze de date cu molecule asemănătoare medicamentelor, instruindu-le că ar dori ceva similar cu agentul nervos puternic VX.
Mulți dintre compușii generați au fost chiar mai toxici decât VX. Drept urmare, autorii din spatele noului studiu păstrează unele dintre detaliile cercetării lor secrete și au dezbătut serios dacă să facă publice sau nu aceste rezultate.
„Prin inversarea utilizării modelelor noastre de învățare automată, ne-am transformat modelul generativ inofensiv dintr-un instrument util de medicină într-un generator de molecule probabil mortale”, au explicat cercetătorii.
Oamenii de știință cer acum o „privire nouă” asupra modului în care sistemele de inteligență artificială pot fi utilizate în scopuri răuvoitoare. Ei spun că o mai mare conștientizare, orientări mai puternice și o reglementare mai strictă în comunitatea de cercetare ne-ar putea ajuta să evităm pericolele unde ar putea duce aceste capacități AI altfel.
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
