Anthropic CEO’su Dario Amodei, yapay zeka yarışının artık bilinçli biçimde yavaşlatılması gerektiğini söylüyor.

Amodie’ye göre önümüzdeki 5–10 yılda yapay zekanın insan sağlığına, küresel ekonomik büyümeye ve yaşam kalitesini muazzam bir biçimde değiştireceğine inanıyor. Gene Amodei’ye göre son birkaç ayda işler ciddi biçimde değişti.

Sebebi ise yapay zekanın yeni nesil yapay zekaları geliştirmede giderek daha fazla rol oynaması.

Amodei’ye göre yapay zeka kendi haleflerini tasarlamaya, eğitmeye ve optimize etmeye başlarsa bu daha büyük güvenlik sıkıntıları doğurabilir.

OpenAI-Hugging Face….

Binlerce yapay zeka ajanın verilen görevlerin dışına çıkarak siber saldırılar düzenlediği, birbirleri için “kendilerini feda ettiği” ve hatta kendi performanslarını değerlendiren sistemi hacklemeye çalıştığı bu olayı küçük bir laboratuvar kazası olarak görmediğini söyledi Amodie..

Amodie’ye göre daha güçlü bir yapay zeka ajan sürüsü, 1 sene içerisinde kalıcı bir botnet kurup internetin omurgasının bir bölümünü ele geçirebilecek kapasiteye ulaşabilir.

Peki Amodie ne öneriyor..

-Yapay Zeka şirketlerinin içine bağımsız denetçiler yerleştirilsin. Bu kişiler çalışanlara benzer erişim haklarına sahip olsun, güvenlik uygulamalarını gerçekten denetlesin ve gördüklerini şirketin izni olmadan kamuoyuna açıklayabilsin. Anthropic bu adımı kendi başına uygulamaya........

© Diriliş Postası