Uzmanlar uyardı: Yapay zeka sonumuzu getirebilir mi?
2 min readUzman isimlerden ve bilim insanlarından oluşan bir grup, yapay zekanın insanlar için taşıdığı riskler hakkında uyarılarda bulundu.
Geçtiğimiz günlerde, mevcut yapay zeka modellerinin insan zihninden daha üstün olabilecek ve dünyayı yok edebilecek düzeyde akıllı ve güçlü hale gelme ihtimaliyle ilgili olarak yapay zeka uzmanlarından ciddi uyarılar geldi. Uzmanlar, bahsi geçen olumsuz senaryoların önüne geçebilmek adına yapay zeka çalışmalarında bazı sınırlandırmaların uygulanması gerektiğini ifade etti. İşte detaylar
Yapay zeka, insan neslini tehdit edebilir!
Bilim insanları ve teknoloji sektörünün liderlerinden oluşan bir grup, Yapay Zeka Güvenliği Merkezi’nin internet sitesinde yayımladıkları bir açıklamada, “Yapay zekadan kaynaklanabilecek soy tükenme riskini azaltmak; pandemiler ve nükleer savaş gibi toplumun genelini etkileyen diğer risklerle birlikte küresel bir öncelik olmalıdır.” dedi.
Yapay zeka ile ilgili birkrizin eşiğinde olduğumuza dair açıklamaya, Microsoft tarafından desteklenen yapay zeka araştırma laboratuvarı OpenAI’nin CEO’su Sam Altman ve “yapay zekanın babası” olarak nitelendirilen ve Google’dan kısa bir süre önce ayrılan Geoffrey Hinton gibi önde gelen isimler de imza attı.
Son dönemde internet kullanıcılarının yeni nesil modelleri benimsemesiyle birlikte yapay zeka sistemlerine sınırlamalar getirilmesi ile ilgili çağrıların sayısı giderek arttı. Mart ayında yayımlanan ve şu anda 30.000’den fazla kişi tarafından desteklenen başka bir bildiri, teknoloji sektörünün önde gelen isimlerinin ve araştırmacıların GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine altı aylık bir ara verilmesini talep etti. Bu bildiride açıkça, “Gelişmiş yapay zeka, dünya üzerinde yaşam tarihinde derin bir değişikliği temsil edebilir ve bu değişiklik uygun bir dikkat ve kaynakla planlanmalı ve yönetilmelidir” denildi.
Yapay zeka, kendisini geliştirenlerden daha güçlü olabilir!
Yapay zeka gelişimi konusunda önemli bir konuma sahip olan Geoffrey Hinton, bir röportajında yapay zeka modellerinin geliştiricilerini beklenenden daha önce geçme eğiliminde olduğunu belirtti. Hinton’a göre, bu durumun gerçekleşmesine daha önceden 30 ila 50 yıl kaldığı düşünülürken, şimdi sadece 5 yıl gibi kısa bir süre kalmış olabilir.
Konuyla ilgili dikkat çekici bir açıklama da Dan Hendrycks’ten geldi. Yapay Zeka Güvenliği Merkezi yöneticisi konumundaki Hendrycks, yapay zekanın yakın gelecekte “sistematik önyargı, yanlış bilgi, kötü niyetli kullanım, siber saldırılar ve silahlanma” gibi kritik riskler taşıdığını belirtti.
