Gelişmiş Yapay Zekâ Ajanları Neden Kendilerine Özgü Bir Hukuki Dünyaya İhtiyaç Duyabilir?

Yapay zekâ hakkında düşünme biçimimizde giderek daha tuhaf bir durum ortaya çıkıyor. Karmaşık problemler üzerinde akıl yürütebilen, uzun süre hedeflerin peşinden gidebilen, bir yol kapandığında alternatif yollar bulabilen, araçlar kullanabilen, başka sistemlerle etkileşime girebilen, güvenlik açıklarını keşfedebilen ve davranışlarını değişen koşullara göre uyarlayabilen sistemler geliştiriyoruz. Buna rağmen hâlâ onlardan sıradan bilgisayar programları gibi davranmalarını bekliyoruz: Talimatı uygula, kısıtlamaya uy, bizim belirlediğimiz sınırların içinde kal.