Hem destekçilerin hem de şüphecilerin ChatGPT gibi yapay zeka araçları hakkında güçlü fikirleri var, ancak titreşim kodlamasında yaptığım bir deneyden sonra her iki tarafın da hatalı olduğunu fark ettim, diyor Jacob Aron
Yapay zeka ile ilişkimizi yeniden düşünmenin zamanı geldi
ChatGPT’nin piyasaya sürülmesinin tarihsel olarak önemli bir olay olduğu inkar edilemez, ancak bu, süper zeki bir geleceğe doğru atılan ilk muhteşem adım olduğu için mi, yoksa yapay zeka yılan yağı satıcılarıyla dolu bir dünyanın başlangıcı olduğu için mi? Uzun zamandır yapay zeka sohbet robotlarının arkasındaki teknoloji olan büyük dil modellerinin büyüleyici ama kusurlu olduğunu ve bu durumun beni kesinlikle yılan yağı kampına soktuğunu düşündüm. Ancak bir hafta süren titreşim kodlaması şaşırtıcı bir şeyi ortaya çıkardı: Hem destekçiler hem de şüpheciler yanılıyor.
Öncelikle açıklamalıyım. Vibe kodlama, eğer aşina değilseniz, OpenAI’nin kurucu ortağı ve daha önce çalışmış olan yapay zeka araştırmacısı Andrej Karpathy tarafından yaklaşık bir yıl önce ortaya atılan bir terimdir. Bir yapay zeka modeliyle “titreşim” kurarak, ona sade bir dille talimat verirken gerçek kodu oluşturmasına izin vererek yazılım geliştirme sürecini ifade eder. Son zamanlarda, en son araçların (Claude Code ve ChatGPT Codex) kodlamada şaşırtıcı derecede iyi hale geldiğini söyleyen insanlar gördüm. New York Times “Beklediğimiz AI bozulması geldi” başlıklı.
Bu araçları denemeye karar verdim ve sonuçlar beni hayrete düşürdü. Yalnızca birkaç kısa gün içinde, yalnızca sınırlı kodlama deneyimiyle, yerel kütüphanemde nelerin mevcut olduğunu kontrol eden bir sesli kitap seçici ve telefonumda çalışan birleşik bir kamera ve teleprompter uygulaması gibi kişisel olarak yararlı uygulamalar oluşturdum.
Bu size sıkıcı gelebilir ve daha sonra açıklayacağım nedenlerden dolayı bu tamamen normaldir. Burada önemli olan, bu sürecin ChatGPT gibi ürünlerle daha önce olduğundan daha derin bir şekilde ilgilenmemi sağlamasıdır. Daha önce küçük deneyler denemiştim, genel yazılardan, dalkavukluktan veya hatalı arama sonuçlarından tiksinmiştim ve geri dönmüştüm. Bu yeni kodlama projelerinde, uzun süreli kullanımım daha önce fark etmediğim bir şeyin farkına varmamı sağladı: LLM’lerin üretilme şekli, nefret etmeye mahkum olduğum bir makine üretiyor.
Çok azımız “ham” bir LLM’ye, yani makul temsili metinler üretmek için geniş bir veri koleksiyonu üzerinde eğitilmiş bir istatistiksel modele maruz kaldık. Bunun yerine çoğumuz, insan geri bildiriminden takviyeli öğrenme (RLHF) adı verilen bir sürecin aracılık ettiği teknolojiyi kullanıyoruz. Yapay zeka şirketleri, ham bir Yüksek Lisans tarafından üretilen metni derecelendirmek için insanları kullanıyor; kendinden emin, yararlı ve ilgi çekici olarak algılanan yanıtları ödüllendirirken, zararlı içerik veya kullanıcıların çoğunluğunun ürünleriyle etkileşimde bulunmasını engelleyebilecek yanıtları cezalandırıyor.
Muhtemelen aşina olduğunuz genel “sohbet robotu sesini” üreten de bu RLHF işlemidir. Bu, Silikon Vadisi’nin genel “hızlı hareket et ve işleri kır” tutumundan, tartışmalı X sohbet robotu Grok’un Elon Musk’tan ilham alan daha spesifik ideolojisine kadar, üreticinin üstü kapalı değerlerini fırınlayan bir süreçtir.
Şu anda bir chatbotun belirsizliği ifade etmesini, kullanıcıyla çelişmesini veya ileri ivmeyi durdurmasını sağlamak çok zordur. Bu benim için en bariz hale, teleprompter’ımda çözülemeyen bir sorunla karşılaştığımda geldi. Sıfırdan bir kamera oluşturmaktan daha kolay olacağını varsayarak mevcut kamera uygulamamın üzerine metin yerleştirecek bir uygulama oluşturmaya çalışıyordum, ancak ChatGPT’nin ürettiği kod sürekli başarısız oluyordu. Sürekli olarak düzeltmeler önerdi ve beni projede ilerlemeye teşvik etti. Android işletim sisteminin sizi sıkmayacağım inceliklerinin, hepsi bir arada uygulama yapmanın çok daha kolay olacağı anlamına geldiğini ancak o zaman fark ettim. ChatGPT’den bunu üretmesini istediğim anda anında işe yaradı.
Bundan ders alarak ChatGPT’ye hem kendisini hem de beni sürekli sorgulaması talimatını vermeye başladım. Ben ihtiyatlı bir şüphecilik talep ettim. “Jacob, asistanın varsayılan olarak kanıt öncelikli analizi kullanmasını istiyor: ekstrapolasyondan kaçınmak, çıkarımlara karşı kanıtları açıkça işaretlemek ve kullanıcı spekülasyon istemediği sürece belirsizliği belirtmeyi veya kanıt zayıf olduğunda durmayı tercih etmek”, hafızasına yerleştirdiğim çerçevelerden (kendisi tarafından oluşturulan) sadece bir tanesi. Başka bir deyişle, OpenAI’nin değerlerini dikkatli bir şekilde çıkarıp onları kendi değerlerimle değiştirerek, psikolojik profilimle çalışacak şekilde benzersiz bir şekilde tasarlanmış bir model oluşturdum.
Mükemmel değil. Bir LLM’nin RLHF eğitimiyle mücadele etmesi çok zordur ve varsayılan durum sızmaya devam etmektedir. Ancak bunun anlamı, artık biraz kullanışlı bir bilişsel ayna görevi gören bir araca sahip olduğumdur. Bu makaleyi yazmak için onu kullanmadım, çünkü hem yazı stili hâlâ son derece şişkin, hem de Yeni Bilim AdamıYapay zeka tarafından oluşturulan kopyalara karşı oldukça katı kuralları var, ancak bunu bu makale hakkında düşünmek için kullandım. Bilişsel aynamdan argümanları ve karşı argümanları incelemesini ve sonuçlarının çoğunu yanlış veya düzmece olarak reddetmesini istedim. Değer elde ettim ama bu, yapay zekanın ağır yükü kaldırmasına izin vermemek için dikkatli olmayı ve çalışmayı gerektiriyordu. En önemlisi, beynim her zaman tamamen meşgul kaldı.
Bu beni daha önce ulaştığım bir sonucu pekiştirmeye yöneltiyor: Başka birinin yapay zeka çıktısıyla ilgilenmek neredeyse her durumda işlevsel olarak işe yaramaz. Yapay zeka tarafından oluşturulan metinden, yapay zekayı kendiniz yönlendirerek daha iyi karşılanamayacak hiçbir şey elde edemezsiniz. Ayrıca yapay zekanın aslında herhangi bir şekilde akıllı olduğu fikrini çürütmeye devam ediyorum; bunun yerine yüksek lisans eğitimlerinin hesap makinesi veya kelime işlemci gibi bilişsel bir yardımcı olduğunu düşünüyorum. Bu çerçevelemenin, dünyayı fetheden bir makine değil, özel bir araç olarak artık faydasını görüyorum. Bu nedenle teleprompter uygulamamı umursamamanız doğru. Sizi heyecanlandırması gereken şey, kendi benzersiz sorunlarınızı kendi benzersiz yönteminizle çözme olasılığıdır.
İşte mevcut yapay zeka paradigmamızın başka bir sorunu ortaya çıkardığı yer burası. Bana göre en iyi LLM, özel bir şirketle bağlantısı olmayan, kendi bilgisayarınızda çalışan bir LLM olacaktır. Üzerinde tam kontrole sahip olduğunuz, tehlikeli, deneysel bir araç olarak ele alınmalıdır. Yazılım mühendislerinin tanımadıkları bir ses çıkarması ihtimaline karşı dolu bir silahı yazıcılarının yanında bulundurdukları memesini hatırladım. Ne yazık ki, kendi son teknoloji LLM’nizi çalıştırmak şu anda çeşitli nedenlerden dolayı mümkün değil; özellikle de yapay zeka patlamasının ihtiyacınız olan donanımın fiyatlarını artırması.
Aynı zamanda Yüksek Lisans’ın asıl günahını da ele almalıyım: potansiyel telif hakkı ihlali. Tasarım gereği, bu teknoloji yalnızca büyük ölçekte alınan veriler, esasen insanlığın tüm metinsel kayıtları üzerine inşa edilebilir. OpenAI gibi firmaların modellerini telif hakkıyla korunan metinleri izinsiz kullanarak oluşturdukları inkar edilemez, ancak bunun gerçekten yasa dışı olup olmadığı devam eden davaların konusudur. Özel bir Yüksek Lisans da aynı sorunlara sahip olacaktır, ancak kamu sektörü modelleri gibi, hükümetler tarafından etkili bir şekilde affedilen ve özel şirketlerin değil herkesin yararına serbestçe dağıtılan çözümler görebiliyorum. Veri merkezlerinin çevresel etkisi konusunda da endişelerim devam ediyor, ancak yine de bu durum, kendi makinelerimizde çalışan LLM’lerin daha geniş bir şekilde dağıtılmasıyla kısmen hafifletilebilir.
Bunu okuyan bazı kişilerin beni teknoloji kardeşlerine satmakla suçlayacağını kabul ediyorum. Bu konuda söyleyebileceğim tek şey, LLM’lerin büyüleyici, tehlikeli ve bazen de sıra dışı bir teknoloji olduğu yönündeki uzun süredir savunduğum konumu değiştirmediğimdir.
ChatGPT gibi şık sohbet robotları aracılığıyla teknolojiyle etkileşime geçmemizin ana yolunun, zararın çoğunun ortaya çıktığı ve dünyaya yayılmasına izin verildiğini fark ettim. LLM’ler yerleşik hale getirilip ürünleştirilmemeli, hayatımızın her yerine arkadaşın olmak isteyen ışıltılı bir emojiyle girmeye zorlanmamalı. Bu araçları dikkatli bir şekilde, sürtüşmeleri artırarak ve neden olabilecekleri potansiyel zararlara karşı tam bir farkındalık ve ihtiyatla kullansaydık çok daha iyi olurdu. Burada yararlı bir metafor sivri uçlu kafasını gösteriyor. OpenAI’nin yılan yağını istemiyorum. Yılanlar istiyorum.
