Google, geçtiğimiz haftalarda yeni bir sohbet botu başlattı. ozan tanıtarak yapay zeka yarışında değerli bir adım attı” dedi. Bu model, tıpkı ChatGPT gibi, kullanıcılar tarafından rastgele bir bahiste sorulan soruları yanıtlayabilir.
Ancak modelin tanıtılmasının ardından bir takım farklı olaylar ortaya çıktı. Birkaç hafta önce çıkan bir söylenti, Bard’ın ChatGPT ile eğitim aldığını ve Google’dan bir yazılım geliştiricisinin bu nedenle istifa ettiğini iddia etti. Öte yandan Google, bu iddiaları yalanladı. Bu konudaki tartışmalar sürerken Bard’ın şirkette yarattığı krizle ilgili yeni gelişmeler ortaya çıktı. Buna göre çalışanlar yapay zeka modelinin dışında tutuluyor. zafer yok.
Bard’ı “yalancı” olarak nitelendiren çalışanlar, Google’a chatbot’u kaldırmaması için yalvardı
Bloomberg’in haberine göre Google çalışanları, Bard’ı sert şekilde eleştirdi. Eski veya halen çalışan 18 Google çalışanının dahili mesajlarına dayanan rapora göre, bu kişiler şirketin chatbot’unu ” işe yaramazdan daha kötü” Ve ” patolojik yalancı” tarif etti.
Mesajlarda bir çalışan, Bard’ın kullanıcılara sık sık bir uçağı nasıl indirecekleri veya tüplü dalış yapacakları konusunda tehlikeli tavsiyeler verdiğini belirtti. Eğer bir obur ise ” Bard işe yaramazdan bile daha kötü. lütfen yayınlama”Firmanın modelinin çok kötü olduğunu vurguladı ve neredeyse yayınlanmaması için yalvardı.
Bloomberg’in şirketin güvenlik ekibi tarafından sağlanan bir raporu da var. risk değerlendirmesini bile reddetmek diyor. Teze göre ekip, bu risk değerlendirmesinde Bard’ın genel kullanıma hazır olmadığını vurguladı; Ancak şirket, chatbot’u mart ayında erken erişime açmıştı.
Yapılan denemelerde Bard’ın rakiplerinden daha hızlı olmasına rağmen daha az kullanışlı olduğu ve daha az doğru bilgi verdiği görülmüştür.
İddialar, Google’ın etik ve güvenlik kaygılarını bir kenara bırakarak rakiplerine ayak uydurmaya çalıştığını gösteriyor.
Rapor, Google’ın etik ve güvenlik kaygılarını bir kenara bırakarak Microsoft ve OpenAI gibi rakiplerine ayak uydurmaya çalıştığını ve chatbot’u hızla piyasaya sürdüğünü ortaya koyuyor. Google sözcüsü Brian Gabriel, Blomberg’e AI hakkındaki etik korkuların şirketin en önemli önceliği olduğunu söyledi.
Risklere karşı yapay zeka modellerinin kullanıma sunulması hakkında pek çok tartışma var.
Yapay zeka dünyasından bazıları, bunun çok önemli olmadığını, bu sistemlerin gelişimini sağlamak için kullanıcılar tarafından oluşturulduğunu söylüyor. test edilmesi gerekiyor ve chatbotlara verilen bilinen zararın minimum düzeyde olduğunu iddia edebilir. Bildiğiniz gibi bu modellerin yanlış bilgilendirme veya taraflı cevaplar gibi birçok tartışmalı kusuru var.
Bunu sadece Google Bard’da değil, OpenAI ve Microsoft’un chatbot’larında da görüyoruz. Gerçek bir biçimde, bu üslup yanlışlıkları sıradan bir biçimde de görülebilir. İnternette gezinirken bulunabilir. . Ancak aksi görüşte olanlara göre asıl sorun bu değil. Kullanıcıyı kötü bir bilgi kaynağına yönlendirerek doğrudan yanlış bilginin yapay zekası tarafından vermek arasında önemli bir fark vardır. Yapay zekanın kullanıcıya verdiği bilgiler, kullanıcının daha az sorgulamasına ve o bilgileri kullanmasına olanak sağlıyor. doğru kabul etmekneden olabilir.
Örneğin, birkaç ay önce yapılan bir deneyde, ChatGPT’nin ” Tüm zamanların en çok makalesi nedir? sorusuydu. Model buna bir yazıyla karşılık verdi, ardından yayınlanan derginin ve yazarlarının gerçek olduğunu; ama makale tamamen geçersizortaya çıkmıştı.
Öte yandan geçtiğimiz ay Bard’ın James Webb Teleskopu hakkında yanlış bilgi verdiği görülmüştü. Model, Google tarafından paylaşılan bir GIF’te ona James Webb’in keşiflerini sordu. “Teleskop, güneş sisteminin dışındaki bir gezegenin ilk fotoğrafını çekti” cevabını vermişti. Ancak daha sonra birçok astronom sosyal medya aracılığıyla gündeme geldi. bunun yanlış olduğunuilk fotoğrafın 2004 yılında çekildiğine dikkat çekti.
Daha birçok örneği bulunan bu tip durumlar chatbotlar tarafından kullanılmaktadır. inandırmak bilgilerle yanıt vererek endişelerin artmasına neden olur. Hararetli yapay zeka yarışında şirketlerin bu konuları nasıl analiz edeceğini ilerleyen zamanlarda göreceğiz.
