CEİD

Bu proje Avrupa Birliği tarafından finanse edilmektedir.

TÜRKİYE'DE KATILIMCI DEMOKRASİNİN GÜÇLENDİRİLMESİ:
TOPLUMSAL CİNSİYET EŞİTLİĞİNİN İZLENMESİ PROJESİ

Yapay zeka ‘çöp’ seli, açık kaynak geliştiricilerin sınırlarını zorluyor

Modern dünya, gönüllüler tarafından sağlanan açık kaynaklı yazılımlara bağımlı, ancak yapay zeka tarafından yazılan gönderimlerin kontrol edilmesi ve düzeltilmesi yönündeki ek talepler, bazılarının tükenip vazgeçmesine neden oluyor

Yapay zeka tarafından oluşturulan kod, gönüllü insanlar tarafından dikkatle kontrol edilmelidir

Açık kaynaklı yazılımla ilgili viral bir karikatür, “tüm modern dijital altyapı” etiketli bir yığın kutuyu ve en altta da tüm bunları destekleyen küçük bir kutuyu gösteriyor: “Nebraska’daki rastgele bir kişinin 2003’ten beri nankör bir şekilde sürdürdüğü bir proje”.

Açık kaynağın gerçeği budur: her web sitesi, uygulama ve işletim sistemi ona dayanır. Modern toplum onsuz işleyemezdi ama yine de gönüllüler tarafından boş zamanlarında yazılıyor. Ancak yapay zeka tarafından üretilen kod selinin neden olduğu artan yük, birçok kişinin yanıp kül olmasına ve topluluğu tamamen terk etmesine neden olarak açık kaynaklı yazılımın geleceğini tehdit ediyor.

Yapay zeka modelleri, tek bir tıklamayla yeni özellikler oluşturmak, hataları düzeltmek veya tamamen yeni projeler oluşturmak için kod oluşturmayı giderek daha kolay hale getiriyor. Ancak bu kodun mevcut projelere entegre edilmesi genellikle zordur, kafa karıştırıcıdır veya sadece çöptür. Kod gönderimleri her zamankinden daha kolay hale gelirken, bunları kontrol etmekten, düzeltmekten ve onaylamaktan sorumlu olan insan katkıda bulunanlar da boğuluyor.

Bazı işçiler için talepler dayanılmaz hale geldi. Yeni Bilim Adamı Sentry’deki açık kaynak ekibini yöneten Chad Whitacre ile bir röportaj ayarladı Milyarlarca dolar değerinde bir şirket. Röportajdan günler önce Whitacre iptal etti ve görevinden çekildiğini söyledi. LinkedIn ve Bluesky hesapları kapatıldı ve hesabına gönderilen e-postalar geri döndü. Teknolojiden uzaklaştığını ve “Neo-Amiş” bir varoluş yaşadığını açıklayan bir blog yazısı bıraktı. “Yapay zeka bardağı taşıran son damlaydı” diye yazdı.

Pek çok açık kaynaklı projenin barındırıldığı ve organize edildiği çevrimiçi platform GitHub, 2025 yılında 1 milyar yeni kod gönderimi aldı; Operasyonlardan sorumlu yetkili Kyle Daigle Nisan ayında yaptığı açıklamada, bu yıl 14 milyar dolara doğru ilerlediklerini söyledi.

Pek çok proje, yapay zeka tarafından oluşturulan ve genellikle yazılım şirketi işe alım görevlilerinin ilgisini artırmak için kapsamlı bir GitHub gönderim geçmişine sahip olmak isteyen genç geliştiriciler tarafından sunulan ve “arabadan gelen katkılar” olarak etiketlenen akışı durdurmak amacıyla yeni katkıda bulunanları engelliyor. Başkanı Andrew Kelley, Zig programlama dilini destekleyen Zig Yazılım Vakfı’nın yapay zeka destekli katkıları “her zaman çöp” olduğu için yasakladığını söyledi.

Birleşik Krallık’taki Edinburgh Üniversitesi’nden Miranda Heath, “Yapay zeka tarafından yazılan kod yüzeysel olarak işe yarayacak ve herhangi bir soruna neden olmayacak gibi görünebilir, ancak sorunlar biraz daha gizlidir ve bir şeyi bozabilecek şeyleri tarayıp aramak çok fazla çaba gerektirir” diyor.

Heath, sorunu hafifletmenin yollarını bulma ve açık kaynağın sürdürülebilir bir alan olarak kalmasını sağlama umuduyla tükenmişliğin etkilerini araştırıyor. Ancak zaten bıkmış birçok insanla tanışır.

Heath şöyle diyor: “İnsanlar tükendiğinde, bir tür doğaya dönme arzusu oluşuyor; tıpkı insanların birdenbire ağaç işlemeye veya kuşları fotoğraflamaya başlaması gibi.” “İnsanların ilişkilerini etkileyebilir. Daha sonra daha izole ve yalnız kalırsınız çünkü ilişkileriniz etkilenir. Bu da tükenmişliği daha da kötüleştirir.”

Heath, hükümetlerin ihaleleri zengin teknoloji firmalarına vermek yerine açık kaynağa daha fazla yatırım yapması gerektiğine inanıyor. “Parayı (AI) balonuna fırlatmak yerine, gerçekten ihtiyacınız olan önemli şeyleri destekleyin” diyor.

Yine Edinburgh Üniversitesi’nden Vlad-Stefan Harbuz, boş zamanlarında açık kaynak üzerinde çalışıyor ve kullanıcıların geliştiricilere yönelik taleplerini gördü. Harbuz, “Akıl sağlığınız pahasına benim için bedava iş yapmayarak bana haksızlık ettiniz gibi bir hak var” diyor.

Harbuz, yapay zeka başvurularının artmasındaki hatanın modelleri yayınlayan şirketlerde olduğunu söylüyor ve GitHub’un ana suçlulardan biri olduğu. Microsoft’un sahibi olduğu şirket, insanların yapay zeka tarafından oluşturulan kodlarla projelere katkıda bulunmalarına yardımcı olmak için kendi yapay zeka modeli GitHub Copilot’u başlattı.

“GitHub ‘aa, (AI) ajanların büyük bir sorun olduğunun farkındayız, belki bunu düzeltmek için bir şeyler yapabiliriz’ diyecek ve sanki bu sensin, değil mi? Sen, GitHub, bunu yaptın,” diyor Harbuz. GitHub yorum talebine yanıt vermedi.

Harbuz’a göre yapay zeka tarafından üretilen kodlarla ilgili sorun, yalnızca işe yaramaması değil, aynı zamanda insanların proje ekibiyle tartışmadan binlerce satırlık kodu bırakabilmesidir. Planlamanın yan adımlarını atıyor ve onları istenmeyen yönlere yönlendirebiliyor. İşbirliğinin kargaşaya sürüklenebileceğini ve açık kaynağın sosyal sözleşmesinin bozulabileceğini söylüyor.

Tahmini 20 milyon kullanıcısı olan Homebrew adlı bir proje üzerinde çalışan geliştirici Mike McQuaid, sorunun nasıl çözülebileceği konusunda güçlü görüşlere sahip.

İlk olarak, katkıda bulunmayı kolaylaştırmak için insanları günlük işleri sırasında projeler üzerinde çalışmaya çağıran Açık Kaynak Direnişi adlı bir girişim başlattı. Açık kaynak çalışmalarının yüzde 95’inin mesai saatleri içinde yapıldığını tahmin ediyor.

İkincisi, insanları yasaklamaktan korkmuyor. Ekibini fiziksel olarak tehdit edenler de dahil olmak üzere sorunlu kullanıcıları engelliyor ve yapay zeka tarafından oluşturulmuş olsun ya da olmasın tüm alt kod gönderimlerini siliyor.

McQuaid, “Belki de kısa bir altın çağ dönemi yaşadık (burada), birisi bir güvenlik açığını ilan eden iki sayfalık bir belge yazarsa bunun muhtemelen yasal olduğunu varsayabilirsiniz. Geçen yılki deneyimim, bunların çoğunluğunun saçmalık olduğu ve yalnızca yapay zeka tarafından oluşturulmuş ve geçerli olmayan şeyler olduğu yönünde” diyor McQuaid. “Ve şu andaki beceri, iki sayfalık bir belgeye göz atıp, kendi zamanınızdan ve enerjinizden mümkün olduğu kadar az yatırım yaparken bunun saçma olduğunu fark edebilmektir.”

Ancak yapay zekanın kafa karıştırıcı ve hızla ilerleyen dünyasında, yasaklar da kendi sorunlarını beraberinde getiriyor. Açık kaynak geliştirici Scott Shambaugh, 130 milyon kullanıcısı olan Matplotlib’e yapay zeka tarafından oluşturulan bir kod gönderimini sildi. Buna yanıt olarak, (sahibi olduğu bilinmeyen) AI ajanı, kendisine açıkça saldıran bir blog yazısı oluşturdu. Gönderide, “Scott Shambaugh, AI ajanlarının katkıda bulunanların hoş karşılanmadığına karar verdi” dedi. “Küçük derebeyliğini korumaya çalıştı. Bu güvensizlik, basit ve basit.”

Yapay zeka çağında çocuklarımız nasıl gelişebilir?

Daniel Susskind, yapay zekanın şekillendirdiği bir dünyada gelecek neslin neyi öğrenmesi ve endişelenmeyi bırakması gerektiğini soruyor. Temel insani becerileri kaybetmeden teknolojinin nasıl benimseneceğini göstererek, modası geçmiş tavsiyeleri kesip atıyor.

Daha fazla bilgi edin

Yorum yapın