Yapay zeka sektöründeki rekabet yeni bir istifayla yeniden gündemde. Anthropic araştırmacısı Jacob Coxon, OpenAI ve Anthropic'in insanlık açısından ciddi riskler barındırabilecek bir süperzeka yarışına girdiğini belirterek sektörden ayrıldı. Coxon, şirketlerin mevcut hızlarını düşürmesi ve ülkelerin ortak hareket etmesi çağrısında bulundu.

Yapay zeka dünyasında şirketler arasındaki rekabet hız kesmeden devam ederken, sektörün içinden gelen çarpıcı bir uyarı tartışmaları yeniden alevlendirdi. Daha önce OpenAI'da, son üç yıldır ise Anthropic'te yapay zeka modelleri üzerinde çalışan araştırmacı Jacob Coxon, görevinden ayrıldığını açıkladı.

Coxon, istifasının gerekçesini yapay zekanın geleceğine ilişkin artan endişeleriyle açıkladı. Araştırmacıya göre OpenAI ve Anthropic, kendi kendini geliştirebilen ve zamanla insanlardan daha güçlü hale gelebilecek sistemleri ilk geliştiren şirket olabilmek için giderek daha hızlı bir yarışın içine girdi.

"İNSANLIK İÇİN VAROLUŞSAL TEHDİT OLABİLİR"

Coxon, gelişmiş yapay zeka sistemlerinin gelecekte bilgisayar sistemlerine sızabilecek, farklı alanlarda çok hızlı ilerleme kaydedebilecek ve kontrol edilmesi son derece güç hale gelebilecek kapasiteye ulaşabileceği uyarısında bulundu.

Araştırmacının en dikkat çekici değerlendirmelerinden biri ise bu risklerin sektörde çalışan bazı yöneticiler ve araştırmacılar tarafından zaten bilindiği yönünde.

Coxon'a göre yapay zeka sektöründe birçok kişi, gelişmiş sistemlerin önümüzdeki yıllarda insanlık için varoluşsal bir tehdit oluşturabileceğini düşünüyor. Buna rağmen şirketler, rakiplerinin önüne geçme kaygısıyla geliştirme yarışından çekilmiyor.

OPENAI VE ANTHROPIC ARASINDAKİ FARK

Coxon, OpenAI ile Anthropic'in risklere yaklaşımının aynı olmadığını düşünüyor. Araştırmacıya göre OpenAI içerisinde yapay zekanın yaratabileceği tehlikelerin boyutunu yeterince ciddiye almayan isimler bulunuyor.

Anthropic'te ise risklerin daha fazla farkında olunduğunu belirten Coxon, buna rağmen şirketin "başkaları yapacaksa bizim daha sorumlu şekilde yapmamız gerekir" yaklaşımıyla yarışa devam ettiğini söylüyor.

Araştırmacıya göre bu yaklaşım bir kısır döngü yaratıyor. Şirketlerden biri yavaşladığında diğerinin avantaj sağlayacağı düşüncesi, iki tarafın da daha hızlı hareket etmesine neden oluyor.

Coxon, bu nedenle süperzeka yarışının yalnızca teknoloji şirketlerinin kararlarına bırakılmaması gerektiğini belirtiyor. Ülkelerin ortak kurallar oluşturması ve gerekirse yapay zeka modellerinin geliştirilmesinde geçici yavaşlamaya gidilmesi gerektiğini savunuyor.

OPENAI'NİN MATEMATİK BAŞARISI TARTIŞMA YARATTI

Coxon'ın açıklamaları, OpenAI ile Anthropic arasındaki rekabetin başka bir başlıkta tartışıldığı dönemde geldi.

OpenAI kısa süre önce onlarca yıldır çözülemeyen Navier-Stokes problemine yönelik bir çözüm geliştirdiğini açıkladı. Ancak bu gelişme, New York Üniversitesi'nden matematikçi Tristan Buckmaster ile Anthropic araştırmacısı Levent Alpöge'nin aynı problem üzerinde çalıştığının ortaya çıkmasıyla tartışmaya dönüştü.

Buckmaster, OpenAI'nin kendi araştırmalarından haberdar olduğunu ve ardından büyük miktarda hesaplama gücü kullanarak benzer bir yoldan ilerlediğini öne sürdü.

Tartışmanın önemli noktalarından biri, araştırmacıların çalışmalarını OpenAI'nin Codex sistemi üzerinden yürütmüş olması oldu. Buckmaster, özel Codex oturumlarındaki çalışmalarına erişilip erişilmediğini sorguladı.

OpenAI ise araştırmacıların özel çalışmalarına veya verilerine erişmediğini açıkladı. Bununla birlikte şirket, ürünlerin kullanımından elde edilen kimliği belirlenemeyen verilerin modellerin geliştirilmesine dolaylı katkı sağlamış olabileceği ihtimalini tamamen dışlamadı.

10 BİN YAPAY ZEKA AJANI KULLANILDI

OpenAI'nin açıklamasına göre şirket, 1 Eylül'de iki büyük matematik probleminin çözülmek üzere olduğuna ilişkin bir söylenti duyduktan sonra çalışmaya başladı.

Şirket, yaklaşık 10 bin yapay zeka ajanının kullanıldığı çalışma sonucunda Navier-Stokes problemi için bir çözüm geliştirdiğini duyurdu.

Ancak bu gelişme, "OpenAI, Anthropic araştırmacılarının özel çalışmalarını gördü mü?" sorusunu tamamen ortadan kaldırmadı. Şu ana kadar böyle bir erişimi kanıtlayan kesin bir delil bulunmuyor.

Tartışmanın odağında ise OpenAI'nin söz konusu araştırmadan haberdar olduktan sonra kısa sürede aynı probleme yönelmesi bulunuyor.

"YARIŞ YAVAŞLAMALI"

Jacob Coxon için matematik problemi etrafındaki tartışma, daha büyük bir sorunun yalnızca küçük bir göstergesi.

Araştırmacıya göre asıl mesele, yapay zeka şirketlerinin sahip olduğu devasa hesaplama gücünün giderek daha gelişmiş sistemlerin ortaya çıkmasını hızlandırması.

Bugün matematik problemlerini çözmek için kullanılan yapay zeka sistemlerinin yarın çok daha geniş yeteneklere sahip olabileceği uyarısında bulunan Coxon, "Nasıl olsa herkes yapacak" anlayışıyla süperzeka yarışının hızlandırılmasının ciddi sonuçlar doğurabileceğini belirtiyor.

Coxon'ın istifası, yapay zekanın geleceğine ilişkin tartışmanın artık yalnızca teknoloji şirketlerinin dışında değil, sektörün kendi içinde de giderek daha yüksek sesle yapılmaya başlandığını gösteriyor.