AI araçları proteinleri ve hatta virüsleri tasarlamak için kullanılıyor, bunların sonunda biyo -teminat kontrollerinden kaçmak için kullanılabilir korkulara yol açıyor
AI toksin ricin yapmak için kullanılabilir, ancak bu birçok bahçede bulunan hint fasulyesinden de elde edilebilir
Yapay Zeka, biyolojiyi dönüştürmeyi vaat ederek, atık plastik yemek için daha iyi ilaçlar, aşılar ve hatta sentetik organizmalar tasarlamamıza izin veriyor. Ancak bazıları, daha koyu amaçlar için, çok geç olana kadar geleneksel yöntemlerle tespit edilmeyecek biyo -sıfırlar oluşturmak için de kullanılabileceğinden korkuyor. Peki, ne kadar endişeliyiz?
Microsoft’un bilim görevlisi Eric Horvitz, “AI ilerlemeleri biyoloji ve tıptaki atılımları körüklüyor” diyor. “Yeni güçle uyanıklık sorumluluğu geliyor.”
Ekibi, AI’nın tehlikeli olduğu bilinen, ancak tehlikeli olarak kabul edilmeyecek kadar farklı proteinlerle aynı şeyi yapan proteinleri tasarlayıp tasarlayamayacağına dair bir çalışma yayınladı. Ekip, hangi proteinleri yeniden tasarlamaya çalıştıklarını ortaya koymadı – çalışmanın bir kısmı saklandığını – ancak muhtemelen 1978 suikastında ünlü olarak kullanılan risin gibi toksinler ve Botox olarak bilinen güçlü nörotoksin Botulinum dahil.
Botulinum gibi bir protein yapmak için tarife ihtiyacınız var – bunu kodlayan DNA. Biyologlar belirli bir DNA parçası istediğinde, genellikle istenen parçaları yapma konusunda uzmanlaşmış şirketlerden sipariş ederler.
Biyoterroristlerin biyo-sıfırları bu şekilde yapmak için tarifleri sipariş edebileceği endişeleri nedeniyle, bazı DNA sentez şirketleri, birisinin tehlikeli bir şey yapmaya çalışıp çalışmadığını kontrol etmek için gönüllü olarak siparişleri tarar. Proteinler amino asit dizileridir ve tarama, amino asit sekansının herhangi bir “endişe dizisi” – yani potansiyel biyo -tabakalarla eşleşip eşleşmediğini kontrol eder.
Ancak AI ile, teorik olarak, farklı bir amino asit dizisine sahip ancak yine de aynı şeyi yapan bir proteinin bir versiyonunu tasarlamak mümkündür. Horvitz ve meslektaşları bunu potansiyel olarak 72 tehlikeli proteinle denediler ve tarama yöntemlerinin genellikle bu alternatif versiyonları kaçırdığını gösterdiler.
Bu göründüğü kadar endişe verici değil. Birincisi, ekip bariz nedenlerden dolayı yeniden tasarlanan proteinleri yapmadı. Ancak bu yılın başlarında ayrı bir çalışmada, zararsız proteinlerin yeniden tasarlanmış versiyonlarını test ettiler – ve temel olarak işe yaramadıklarını buldular.
İkincisi, biyoterör saldırıları denenmiş olsa da, çok az da olsa, bunun gönüllü tarama sisteminin başarısız olması nedeniyle bunun çok az neden var. AI yeniden tasarımlarına başvurmadan etrafta dolaşmanın zaten birçok yolu var – örneğin, Ricin birçok bahçede bulunan hint petrol bitkilerinden elde edilebilir. Bu çalışma, bir bankanın son derece sofistike bazıları tarafından soyulabileceğine dair uyarının eşdeğeridir. Misyon İmkansız-Style Planı, aslında tonoz kapısı tamamen açık bırakıldığında.
Son olarak, devlet aktörleri hariç tutulduğunda, hiçbir biyoterörist protein bazlı biyo-temas kullanarak kimseyi öldürmeyi başaramadı. Japonya’daki Aum Shinrikyo kült botulinumlu insanları öldürmeye çalıştı, ancak sadece kimyasal ajanlarla başarılı oldu. Beyaz Saray’a gönderilen ricin bağlanmış harfler kimseyi öldürmedi. Vücut sayımlarına dayanarak, silahlar ve patlayıcılar biyotoksinlerden çılgınca daha tehlikelidir.
Peki bu, AI tarafından tasarlanmış biyo-ateşler için endişelenmeyi bıraktığımız anlamına mı geliyor? Tam olarak değil. Horvitz’in çalışmaları sadece proteinlere bakarken, büyük tehdidi oluşturan virüslerdir – ve AI zaten tüm virüsleri yeniden tasarlamak için kullanılıyor.
Geçen ay, Kaliforniya’daki Stanford Üniversitesi’ndeki bir ekip, bakteriyi enfekte eden bir virüsü yeniden tasarlama çabalarının sonuçlarını açıkladı. E. coli. Yeniden tasarlanan proteinlerde olduğu gibi, sonuçlar etkileyiciydi-yapılan 302 AI tarafından tasarlanmış virüslerin sadece 16’sı enfekte olabilir E. coli. Ama bu sadece başlangıç.
Yapay zeka tasarlanmış virüsler sorulduğunda, DNA yapma firmasında James Diggans Twist Bioscience ve Horvitz ekibinin bir üyesi, endişe duyulan proteinlerden daha DNA kodlayan virüsleri tespit etmenin daha kolay olduğunu söyledi. “Sentez taraması daha az değil daha fazla bilgi üzerinde daha iyi çalışır. Yani genom ölçeğinde inanılmaz derecede bilgilendirici.”
Ancak tüm DNA yapım şirketleri bu taramayı gerçekleştirmiyor ve Bench Tow DNA sentezleyicileri kullanılabilir hale geliyor. Tehlikeli virüsler oluşturmayı reddedecek veya kötü niyetli niyeti tespit etmeye çalışacak AI araçları tasarlamaktan bahsediliyor, ancak insanlar, örneğin AIS’in bomba yapma talimatları sağlamayı durdurmak için önlemlerin etrafında dolaşmanın birçok yolunu buldular.
Açık olmak gerekirse, tarih “vahşi” virüslerin riskinin biyoterörizm riskinden çok daha yüksek olduğunu önermektedir. Mevcut ABD yönetiminin iddia ettiğine rağmen, kanıtlar SARS-COV-2’nin bir yarasa virüsü diğer vahşi hayvanlara ve daha sonra bir pazardaki insanlara atladığında ortaya çıktığını gösteriyor-laboratuvar yok.
Dahası, biyoterroristler sadece çiçek hastalığı gibi bilinen bir virüsü serbest bırakarak inanılmaz miktarda hasar verebilirler. BioWeapon kontrol çabalarındaki birçok boşlukla, etrafta dolaşmak için yapay zeka hilelerine başvurmaya çok az gerek yoktur.
Tüm bu nedenlerden dolayı, AI tarafından tasarlanmış bir virüsün yakında herhangi bir zamanda serbest bırakılması riski muhtemelen sıfıra yakındır. Ancak çeşitli teknolojiler ilerlemeye devam ettikçe bu risk büyüyecek-ve Covid-19 pandemi, özellikle ölümcül olmasa bile yeni bir virüsün ne kadar tahribat yaratabileceğini gösterdi. Giderek endişelenmek için bir neden olacak.
