Okuma Süresi
Gelişmiş yapay zeka sistemi, ChatGPT’ye güç veren GPT-4’ün yerini alacak. Şirket ayrıca yapay zekanın risklerini ele almak için yeni bir güvenlik komitesi oluşturdu.
Şirket, OpenAI’nin yeni modelini eğitirken, yeni Emniyet ve Güvenlik komitesinin de teknolojiyi korumaya yönelik politika ve süreçleri geliştirmek için çalışacağını söyledi.
OpenAI Salı günü yaptığı açıklamada, popüler çevrimiçi sohbet robotu ChatGPT’yi yönlendiren GPT-4 teknolojisinin yerini alacak yeni bir amiral gemisi yapay zeka modelinin eğitimine başladığını duyurdu. Dünyanın önde gelen AI şirketlerinden biri olan San Francisco start-up’ı, bir blog yazısında, “Yaratıcı Yapay Zeka” (AGI) oluşturmaya çalışırken yeni modelin “bir sonraki yetenek seviyesini” getirmesini beklediğini söyledi. AGI, insan beyninin yapabildiği her şeyi yapabilen bir makine olarak tanımlabilir. Yeni model, sohbet robotları, dijital asistanlar, arama motorları ve görüntü oluşturucular dahil olmak üzere yapay zeka ürünleri için bir motor olacak.
OpenAI ayrıca yeni modelin ve gelecekteki teknolojilerin oluşturduğu riskleri nasıl ele alması gerektiğini araştırmak için yeni bir Emniyet ve Güvenlik Komitesi oluşturduğunu da belirtti. Şirket, “Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duysak da, bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz” dedi.
OpenAI, AI teknolojisini rakiplerinden daha hızlı ilerletmeyi hedeflerken, aynı zamanda teknolojinin giderek daha tehlikeli hale geldiğini, dezenformasyonun yayılmasına, işlerin değiştirilmesine ve hatta insanlığı tehdit ettiğini söyleyen eleştirmenleri de yatıştırmayı hedefliyor. Uzmanlar, teknoloji şirketlerinin yaratıcı yapay zekaya ne zaman ulaşacağı konusunda hemfikir değiller ancak OpenAI, Google, Meta ve Microsoft gibi şirketler, on yıldan fazla bir süredir yapay zeka teknolojilerinin gücünü istikrarlı bir şekilde artırdı ve kabaca her iki ila üç yılda bir gözle görülür bir sıçrama gösterdi.
OpenAI’nin Mart 2023’te piyasaya sürülen GPT-4’ü, sohbet robotlarının ve diğer yazılım uygulamalarının soruları yanıtlamasına, e-posta yazmasına, dönem ödevi oluşturmasına ve verileri analiz etmesine olanak tanıyor. Teknolojinin bu ay tanıtılan ve henüz geniş çapta kullanıma sunulmayan güncellenmiş bir versiyonu da görüntüler üretebiliyor ve sorulara ve komutlara yüksek düzeyde konuşmaya dayalı bir sesle yanıt verebiliyor.
Scarlett Johansson, GPT-4o adı verilen güncellenmiş sürümün “ürkütücü derecede benimkine benzeyen” bir ses kullandığını söyledi. OpenAI’nin CEO’su Sam Altman‘ın ürün için kendi sesini lisanslama çabalarını reddettiğini ve bir avukat tuttuğunu belirtti. Şirket, sesin Johansson’a ait olmadığını söyledi.
Yapay zeka modellerinin dijital “eğitimi” aylar hatta yıllar sürebilir. Eğitim tamamlandıktan sonra, yapay zeka şirketleri genellikle birkaç ay daha teknolojiyi test etmek ve kamu kullanımı için ince ayar yapmak için harcıyor. Bu, OpenAI’nin bir sonraki modelinin dokuz ay ila bir yıl veya daha uzun bir süre boyunca gelmeyeceği anlamına gelebilir.
OpenAI, yeni Emniyet ve Güvenlik Komitesi’nde Bay Altman’ın yanı sıra OpenAI yönetim kurulu üyeleri Bret Taylor, Adam D’Angelo ve Nicole Seligman’ın yer aldığını ve yeni politikaların yaz sonu veya sonbaharda yürürlüğe girebileceğini söyledi.
Bu ayın başlarında OpenAI, kurucu ortaklardan ve güvenlik çabalarının liderlerinden biri olan Ilya Sutskever‘in şirketten ayrıldığını duyurdu. Bu, OpenAI’nin yapay zekanın oluşturduğu tehlikelerle yeterince mücadele etmediği endişesine neden oldu. Dr. Sutskever, Kasım ayında Bay Altman’ı OpenAI’den çıkarmak için diğer üç yönetim kurulu üyesine katılarak, şirketin insanlığın iyiliği için yapay genel zeka yaratma planı konusunda Bay Altman’a artık güvenilemeyeceğini söyledi. Bay Altman’ın müttefiklerinin lobi faaliyetleri sonrasında, beş gün sonra görevine iade edildi ve o zamandan bu yana şirketin kontrolünü yeniden ele aldı.
Dr. Sutskever, gelecekteki yapay zeka modellerinin zarar vermemesini sağlamanın yollarını araştıran OpenAI’nin Süper Hizalama ekibi olarak adlandırdığı ekibi yönetti. Bu alandaki diğer kişiler gibi o da yapay zekanın insanlık için bir tehdit oluşturduğuna dair giderek daha fazla endişe duymaya başlamıştı. Superalignment ekibini Dr. Sutskever ile birlikte yöneten Jan Leike, bu ay şirketten istifa ederek ekibin geleceğini şüpheye düşürdü.
OpenAI, teknolojilerinin güvenli olmasını sağlamak için uzun vadeli güvenlik araştırmalarını daha büyük çabalara kattı. Bu çalışma, daha önce ChatGPT’yi oluşturan ekibe başkanlık eden başka bir kurucu ortak olan John Schulman tarafından yönetilecek. Yeni güvenlik komitesi Dr. Schulman’ın araştırmasını denetleyecek ve şirketin teknolojik riskleri nasıl ele alacağı konusunda rehberlik sağlayacak.
