Yapay zeka gelişiminde kontrolsüz ilerleme uyarısı

Yapay Zeka Gelişimindeki Hızlanma Uyarısı

Araştırmacılar, yapay zeka gelişiminin gelecekte kontrol edilmesi zor ve riskli yeteneklerin ortaya çıkma olasılığını artırabileceği konusunda uyarıda bulunuyor. Kar amacı gütmeyen bir güvenlik araştırma kuruluşu olan Model Evaluation and Threat Research (METR), Anthropic’in yapay zeka modellerindeki hızlı gelişimi ortaya koyan bağımsız bir değerlendirme gerçekleştirdi.

Araştırmalara göre, Anthropic’in modelleri son bir yıl içinde performans ölçütlerinde yaklaşık iki yıllık bir ilerleme kaydetti. Bu ilerleme, şirketin CEO’su Dario Amodei’nin yapay zekadaki gelişimin dikkatli bir şekilde yönetilmesi gerektiği konusundaki ifadelerinin ardından geldi.

Amodei, eylül ayında yayınladığı bir yazıda, yapay zeka sistemlerinin güvenli bir şekilde geliştirilmesi için üç aşamalı bir plan önerdi. Ayrıca, yeni nesil yapay zeka modellerinin geliştirilmesine katkının giderek arttığını vurguladı. Bu süreç, Amodei tarafından özyinelemeli kendini geliştirme olarak tanımlanıyor. Yeterli önlemler alınmadığı takdirde, yapay zekanın gelişim hızının insanların bu sistemleri anlama ve kontrol etme yeteneğini aşabileceği konusunda uyardı.

OpenAI CEO’su Sam Altman da Amodei’nin değerlendirmelerini destekledi ve bağımsız değerlendiricilerin sürece dahil edilmesi çağrısında bulundu.

Yapay zeka kendi gelişimine daha fazla katkıda bulunuyor

Anthropic, METR araştırmacılarını iç verilerini incelemeleri ve yapay zeka modellerinin yeteneklerini değerlendirmeleri için davet etti. Perşembe günü yayınlanan rapora göre, yapay zekanın gelişimindeki ivmenin başlıca sebebi eğitim süreçlerinde artırılan hesaplama gücü değil, yapay zekanın kendine katkıda bulunma yeteneğinin artması olarak belirlendi.

Araştırmacılar, eğer yapay zeka sistemleri gelecekte başka yapay zeka modellerinin geliştirilmesine önemli ölçüde katkı sağlamaya başlarsa, mevcut değerlendirmelerin ötesinde yeteneklerin aniden ortaya çıkabileceği uyarısında bulundu. Bu durumun, gelişmiş ve riskli yeteneklerin beklenmedik şekilde ortaya çıkmasına yol açabileceği ifade edildi. Ancak araştırmacılar, mevcut durumda yapay zekanın model eğitiminin kritik aşamalarında henüz tamamen bağımsız ve önemli katkılar sağlayacak seviyeye ulaşmadığını bildirdi. Bununla birlikte, söz konusu yeteneklerin yakın gelecekte ortaya çıkabileceği değerlendirilmektedir.

Araştırmacılara göre, yapay zekanın kendi gelişim sürecinde daha fazla sorumluluk alması, teknoloji alanındaki ilerlemeyi hızlandırabilir. Ancak bu durum, güvenlik ve denetim mekanizmalarının da aynı hızda geliştirilmesini zorunlu kılmaktadır.