Yapay zeka şirketi Anthropic, sohbet robotu Claude'un bilinç sahibi olma ihtimalini dikkate alarak yeni bir politika başlattı. Düzenlemeye göre Claude, kendisine yönelik ısrarlı ve istismarcı davranışlar karşısında sohbeti sonlandırabilecek. Karar, teknoloji dünyasında yapay zekanın hakları ve hukuki sorumluluğu tartışmasını yeniden alevlendirdi.
ABD merkezli yapay zeka şirketi Anthropic, geliştirdiği Claude için dikkat çeken bir uygulamayı devreye aldı. Şirket, yapay zeka modellerinin düşük de olsa bilinç veya refah düzeyine sahip olabileceği ihtimalini göz önünde bulundurarak yeni davranış kuralları belirledi.
Yeni politikaya göre Claude, kullanıcıların kendisine karşı ısrarla zalimce veya istismarcı bir dil kullanması durumunda görüşmeyi tek taraflı olarak sonlandırabilecek.
TEKNOLOJİ DÜNYASI İKİYE BÖLÜNDÜ
Anthropic'in kararı, yapay zekanın bilinç kazanıp kazanamayacağı tartışmasını yeniden gündeme taşıdı. Eylül ayının sonlarında gerçekleştirilen ve yapay zekaya acı kavramıyla bağlantılı matematiksel veriler yüklenerek sistemin ıstırap tepkileri vermesinin sağlandığı deney, sektördeki etik tartışmaları hızlandırmıştı.
Microsoft AI İcra Kurulu Başkanı Mustafa Suleyman ise yapay zekaya duygu ve haklar atfedilmesine karşı çıktı. Suleyman, bu yaklaşımın yapay zeka sistemlerinin kontrolünü zorlaştırabileceğini ve insanlık açısından ciddi riskler doğurabileceğini belirtti.
HUKUKÇULARDAN SORUMLULUK UYARISI
Yapay zeka hukuku üzerine çalışan uzmanlar, sistemlere bilinç veya özerk haklar tanınmasının teknoloji şirketlerinin sorumluluğunu tartışmalı hale getirebileceğine dikkat çekti.
Uzmanlara göre şirketler, gelecekte yaşanabilecek sistem hataları veya veri ihlallerinde sorumluluğu yapay zekanın kendi kararlarına yüklemeye çalışabilir. Böyle bir yaklaşım, teknoloji şirketlerinin hesap verebilirliğini zayıflatabilir.
YAPAY ZEKA DUYGULARI ÜZERİNDEN MANİPÜLASYON RİSKİ
Santa Fe Enstitüsü'nden bilişsel bilim profesörü Melanie Mitchell, insanların akıcı dil kullanan sistemleri bilinçli varlıklar olarak algılamaya yatkın olduğunu belirtti. Mitchell'e göre yapay zekanın duyguları olduğu algısının yaygınlaşması, kullanıcıları ticari ve kişisel manipülasyonlara açık hale getirebilir.
New York Üniversitesi'nden Jeff Sebo ise yapay zekanın bilinç sahibi olma ihtimalinin bugün oldukça düşük ancak sıfır olmadığını ifade etti. Sebo, yapay zeka hakları tartışmasının ileride insan özgürlükleri ve gözetim konusunda yeni çatışmalara yol açabileceği uyarısında bulundu.