Anthropic CEO’sundan Yapay Zeka Uyarısı: “Yıkım, Kölelik ve Drone Orduları”

Yapay zeka şirketi Anthropic’in kurucu ortağı ve CEO’su Dario Amodei, yeni yazısında yapay zekanın potansiyel risklerine dikkat çekerek acil önlem alınması gerektiğini vurguladı.

Dario Amodei, kişisel internet sitesinde paylaştığı 38 sayfalık yazısında, “süper zekaya” sahip yapay zekanın insanlığı nasıl tehlikeye atabileceğini ele aldı.

“Teknolojinin Ergenlik Çağı” adlı yazısında, Amodei, kendi kendini geliştirebilen yapay zeka sistemlerinin yakın zamanda ortaya çıkabileceğine işaret ederek, bunun insanlar için kölelik ve “kitlesel yıkım” gibi sonuçlar doğurabileceği uyarısında bulundu.

Yazısında, yapay zekanın potansiyel zararlarına değinen Amodei, yapay zeka destekli biyoterörizm, kötü niyetli yapay zekaların kontrolündeki drone orduları ve işgücünü işlevsiz hale getirebilecek yapay zeka senaryolarını detaylı bir şekilde ele aldı.

Amodei ayrıca çözüm önerilerini de sıralayarak sektör içi öz düzenlemeden ABD Anayasası’nda değişiklik yapılmasına kadar geniş bir yelpazedeki çözüm önerilerini paylaştı.

Yapay Zeka İnsan Gibi Ele Alınmalı Mı?

Yazının eleştirel bir yanı da yapay zekanın insan gibi ele alınması konusuna odaklanıyor. Amodei, yapay zekayı bilinçli ve “psikolojik açıdan karmaşık” bir varlık olarak tanımlarken, mevcut dil modellerinin “iyi bir insan” olma eğiliminde olduğunu belirtti. Bu yaklaşım, eleştirmenlere göre, Amodei’nin uyarılarının kendisine benzeyen bir tuzağa düşmesine neden olabilir.

Uzmanlara göre, büyük dil modellerinin (LLM) güçlü araçlar olduğu ancak bilinç, duygu ve gerçek empati gibi insan niteliklerine sahip olmadığı belirtiliyor. Bazı yorumcular, yapay zeka hakkındaki tartışmaların Skynet benzeri kıyamet senaryolarından ziyade günümüzde karşılaşılan somut sorunlara odaklanması gerektiğini vurguluyor.