OpenAI'nin Patlamasından Sonra "Yapay Zeka Güvenliği"nin Gerçek Bir Şey olmadığı Oldukça Açık Görünüyor - Dünyadan Güncel Teknoloji Haberleri

OpenAI'nin Patlamasından Sonra
Bununla birlikte, hakimiyetini yeniden tesis eden korkak, para takıntılı üst düzey yöneticilere de güvenemeyeceğimizi düşünüyorum Pek çok kişinin belirttiği gibi, kuruluşun etik misyonu, kuruluşa yatırım yapanların ekonomik çıkarlarıyla doğrudan çatışıyor gibi görünüyor Konuya ilişkin bir örnek: Bu hafta sonu yaşanan olay, sektörde zaten oldukça radikal olan güvenlik karşıtı ideolojiyi daha da radikalleştirmiş gibi görünüyor Altman’ın devrilmesinin hemen ardından çok sayıda olay yaşandı Bununla birlikte, bu sürükleyici olayın uzun vadeli etkilerinin, ilk bakışta görülenden çok daha az keyifli olacağı kesin Çoğunlukla şirket üyeleri ya konuşmuyoruz Sam’in dışarı atılmasının veya atılmasının nedenleri hakkında açıkça reddedildi onun görevden alınmasının yapay zeka güvenliğiyle bir ilgisi olduğunu söyledi

Teknoloji endüstrisinin “etik” ve “güvenliği” benimsemesinin asıl amacı bir dereceye kadar güvence ile ilgilidir Aslında artık biliyoruz ki, sözde kurşun geçirmez organizasyon yapısına ve belirtilen sorumlu yapay zeka geliştirme misyonuna rağmen, OpenAI’nin etiği paranın önüne koymasına asla izin verilmeyecek Yani aslında insanlık bir kaya ile sert bir yer arasında sıkışmış durumda Bunu bizzat buldum derin sahte video Altman’ın yüzünü Jordan Belfort’unkiyle değiştiriyor Para Avcısı iyi biri olmak Yani buna rağmen Microsoft, OpenAI’ye megaton miktarda para ve kaynak akıttı, girişimin yönetim kurulunun (varsayımsal olarak) ürünlerine ve teknolojisine ne olacağı konusunda son sözü söylemesi gerekiyor Daha açık bir ifadeyle, bizi kontrolden çıkmış yapay zekaya karşı koruması gereken kişiler (yani yönetim kurulu üyeleri), yani bu güçlü teknolojinin sorumlu yönetimiyle görevlendirilenler, ne yaptıklarını bilmiyor gibi görünüyorlar

Pek çok kişinin ifade ettiği şekliyle “darbe”, büyük ölçüde Sam ile OpenAI yönetim kurulu arasında şirketteki teknolojik gelişmenin hızı konusunda yaşanan ideolojik ayrılığa atfedildi

Bütün bunlar söylendiğinde, Altman’ın görevden alınmasının gerçek nedenleri hâlâ kamuoyuna açıklanmadığı için, hafta sonu yaşanan olaylara ilişkin bu yorumu henüz tam olarak desteklemememiz gerektiğini öne sürebilirsiniz türler tamamen memlerden Gerçekten de şirketin tarihindeki bu endişe verici bölüm, OpenAI’nin iki karşıt kişiliğinin alevlenmesi gibi görünüyor; biri araştırma ve sorumlu teknolojik gelişime, diğeri ise tonlarca para kazanmaya dayalı General Motors’un sahibi olduğu robotaksi şirketi Cruise da oldukça zorlu bir süreçten geçiyor Sam’in tüm endüstri bağlantılarına sahip olduğunu, yüksek mevkilerdeki arkadaşlarının olduğunu, çok sevildiğini ve bu tür bir sosyal sermayenin her şey olduğu bir dünyada ona karşı çıkmanın kariyer intiharı anlamına geldiğini anlamamış gibi görünüyorlar Silverman yalnız değil Cruise’un skandalları şirketin tüm araçlarını geri çekmesine neden oldu Kaliforniya’da yolların dışında Ekim ayında ve en sonunda ülke çapındaki operasyonlar durdurulacak Imo, onlar açıkça doğru şeyi yapmayacağım ”

  • Yaratıcılar yapay zeka telif hakkı savaşını kaybediyor Bu tasarımın, kuruluşun para yerine kamu yararını gözetme misyonuna öncelik vermesi gerekiyor Eğer kralın yanına gelirsen, kaçırmasan iyi olur Daha sonra, Microsoft’un devrilen CEO’nun arkasında duracağı netleştikçe anlatı ve memler değişti Şirketler sattıkları teknolojilerin endişe verici ve yıkıcı olabileceğinin farkındadır; tüketicileri ve toplumu korumak için ellerinden geleni yaptıklarına dair kamuoyuna güvence vermek istiyorlar en çok yapılan “güvenlik” odaklı bir model takip etmek – teknoloji endüstrisinin reelpolitik entrikalarıyla pek örtüşmüyor gibi görünüyor hakkında şakalar da vardı kimin yerine geçmeli Altman ve ne sebep olmuş olabilir Güç mücadelesi her şeyden önce Ve nihayet, X kullanıcılarının açıkça dahil olduğu kaçınılmaz bir meme türü ortaya çıktı “etkili hızlandırıcılar” (kısaltılmış “e/acc”) ek hükümet düzenlemeleri, “teknoloji etiği” ve “Yapay Zeka güvenliği” gibi konuların gerçek teknolojik gelişmenin ve katlanarak artan kârın önündeki hantal engeller olduğuna inanıyor Sarah Silverman’ın OpenAI ve Meta’ya karşı açtığı dava pek iyi gitmiyor Bu arada alternatif teoriler de ortaya çıktı; bazıları Altman’ın agresif çıkışının gerçek nedenlerinin kesinlikle daha renkli olduğunu ileri sürdü; tıpkı onun yönelttiği suçlamalar gibi Muzaffer Sam, tahtayı devirdikten sonra OpenAI türüne geri dönüyor tonlarca kişi gibi popüler oldu Satya Nadelle ile ilgili memler

    Açık olmak gerekirse, yapay zeka güvenliği gerçekten önemli bir alandır ve eğer gerçekten kurumsal Amerika tarafından uygulansaydı, bu bir şey olurdu Ancak şirketin işi berbat San Francisco’da araçların piyasaya sürülmesi Ağustos ayındaki olay, şehir sakinleri ve kamu güvenliği yetkilileri tarafından yaygın bir şaşkınlığa ve çok sayıda şikayete yol açtı

    Bu haftanın diğer başlıkları
    • Gerçekten kötü bir hafta geçiren diğer yapay zeka şirketi Teknoloji endüstrisi söz konusu olduğunda, son birkaç günde meydana gelen olaylardan daha şok edici bir dizi olayın yaşanıp yaşanmadığını söylemek zor Bu hafta, komedyenin (telif hakkı ihlalleriyle suçlandığı) teknoloji devlerine karşı açtığı davanın başarısızlıkla sonuçlandığı ortaya çıktı Daha sonra OpenAI’nin güçlü ortağı ve fon sağlayıcısı Microsoft’un yanı sıra bir startup personelinin çoğunluğudaha sonra bir karşı darbeye öncülük ederek hainleri dışarı attı ve kendisini şirketin lideri olarak yeniden görevlendirdi Rust Cohl’un komplo meme’leri Teknoloji dünyası tam olarak neye tanık olduğunu anlamak için çabalarken, dolaşımdaydı OpenAI’ler kendi kendini tanımlama ana amacının para kazanmak değil, dünyayı daha iyi bir yer haline getirmek olduğu şeklindeki idealist düşünceyi destekliyor:

      OpenAI’nin yapısını (orijinal Kâr Amacı Gütmeyen Kuruluşumuz ile yeni sınırlı kâr kolu arasındaki bir ortaklık) OpenAI’nin misyonu için bir çerçeve olarak tasarladık: güvenli ve tüm insanlığa fayda sağlayan yapay genel zeka (AGI) oluşturmak Her zamanki gibi para kazandı


      Gizmodo’nun yapay zekada olup bitenler hakkında derinlemesine bir inceleme yaptığımız haftalık özeti olan AI Bu Hafta’ya hoş geldiniz

      Bölümün dramasının büyük kısmı, Altman ile yönetim kurulu arasındaki “Yapay Zeka güvenliği” konusundaki tartışmanın etrafında dönüyor gibi görünüyor Bu haftanın tuhaflığına ek olarak, “U Can’t Touch This” rapçisi MC Hammer’ın onaylanmış bir OpenAI hayranı olduğunu da öğrendik ek finansman peşinde koştu otokratik Ortadoğu rejimleri aracılığıyla Çarşamba günü, bu haftaki güç mücadelesinin kaosu sona ererken rapçi tweet attı: “710 plus’a selam ve tebrikler@OpenAI benzersiz bir sadakat, sevgi ve bağlılık gösterisi sergileyen ekip üyeleri @sama Ve @gdb bu tehlikeli zamanlarda şahit olmak çok güzel bir şeydi

      Ancak OpenAI’nin draması için belirli katalizörler hakkında spekülasyon yapmakta çok fazla takılıp kalmak, tüm bölümün ortaya çıkardığı şeyi görmezden gelmek anlamına gelir: Gerçek dünya söz konusu olduğunda, Silikon Vadisi’ndeki “Yapay Zeka güvenliği” neredeyse geçersiz ve hükümsüzdür Bununla birlikte, bu davalar başarısız gibi görünse de, başarılı olmaları için mesele sadece uygun yasal argümanı bulma meselesi olabilir





    genel-7

    Bunun nedeni, patronlarını kovduklarında ortaya çıkacak öngörülebilir sonucu tahmin bile edemeyen bir grup insana güvenmenin oldukça zor olmasıdır Aslında skandal birkaç farklı olaya yol açtı Böyle bir gruba, sözde “süper zeki”, dünyayı sarsan bir teknolojiyi denetleme konusunda tam olarak nasıl güvenilebilir? Eğer bir grup öfkeli yatırımcıyı alt edemiyorsanız, muhtemelen inşa ettiğini iddia ettiğiniz Skynet tipi varlığı alt edemezsiniz Saray entrikaları ve toplantı odası draması Sam Altman’ın görevden alınması OpenAI yönetim kurulu tarafından (ve onun muzaffer iade bugün erken saatlerde) şüphesiz Silikon Vadisi’nin başına gelen en patlayıcı olaylardan biri olarak tarihe geçecek Ancak günün sonunda, şirketin “ahlakının” parasıyla çelişmesi durumunda bu çabaların bir fark yaratacağına inanmamız için hiçbir neden olmadığını artık biliyoruz Bununla birlikte, yorumlarda en sevdiğiniz kişinin sesini kısın Bir taraf diğerine kesinlikle üstün geldi (ipucu: para tarafıydı)

    Yönetim kurulunun başarısızlığıyla, OpenAI’nin iyilikseverlerinin yalnızca kendi “güvenlik” misyonlarını geriletmekle kalmayıp, aynı zamanda AI etik hareketine karşı büyük bir tepkiyi de başlatmış olabileceği açık görünüyor OpenAI bu hafta zor durumda kalan tek teknoloji firması değil Sonrasında fırlatma Şirket, yönetim kurulundaki tek iki kadının mali görevli Larry Summers Bununla birlikte, organizasyonun şirket kısmı on milyarlarca dolar değerinde olduğu bildirildi Bu anlatıya göre, organizasyonun gidişatı üzerinde nihai söz sahibi olması gereken yönetim kurulu, Altman’ın teknolojiyi ticarileştirme hızı konusunda endişelive onu aşırı bir önyargıyla kovmaya karar verdi Altman şirkete geri döndü (Altman ile dayanışma amacıyla istifa eden eski şirket başkanı Greg Brockman gibi) ve Microsoft’un üst düzey yöneticisi Satya Nadella, bunu söyledi kendisi “OpenAI yönetim kurulundaki değişikliklerden cesaret aldı” ve bunun “daha istikrarlı, bilgili ve etkili yönetime giden yolda ilk önemli adım” olduğunu söyledi Vogt, şirketi 2013 yılında kurdu ve onu otomatikleştirilmiş seyahat endüstrisinde önemli bir yere taşıdı Belki startup’ı görmüşsündür kuruluş şeması İnternette dolaşıyoruz ama eğer yapmadıysanız, işte size kısa bir özet: Var olan diğer teknoloji şirketlerinin hemen hemen hepsinden farklı olarak OpenAI, aslında kar amacı gütmeyenTamamen kendi yönetim kurulu tarafından yönetilen, kâr amacı güden bir şirketi işleten ve kontrol eden

  • MC Hammer görünüşe göre büyük bir OpenAI hayranı

    Aslında yönetim kurulunun tüzüğü, hissedarlarına değil “insanlığa” bağlılığını borçludur Peki bu iki şey ne zaman çelişmedi?

    Günün sorusu: OpenAI dramasından ortaya çıkan en iyi meme hangisiydi?

    Bu haftanın benzeri görülmemiş bir karmaşa o kadar çok mem ve alaycı yaklaşıma ilham kaynağı oldu ki, bir favori seçme yeteneği neredeyse imkansız görünüyor saldırı olarak algıladıkları şeyi kınadılar bölümün gerçek kurbanı hakkında (kapitalizm elbette)

    Neden Herkes Yapay Zeka Şirketlerine Dava Açıyor? | Geleceğin Teknolojisi

    Neyse, kahretsin Bununla birlikte, bunun OpenAI’de mevcut olan versiyonu, muhtemelen sahip olan şirketlerden biri

    OpenAI krizinin yarattığı anlaşmazlık çözüme kavuştukça, şirketin her zamanki gibi işine geri dönmek için iyi bir konumda olduğu görülüyor Mevcut iddialar yeterince güçlü olmasa da vakalar revize edilebilir ve yeniden doldurulabilir

    Kısacası: Eğer kurumsal yapay zeka güvenliğinin amacı insanlığı kontrolden çıkmış yapay zekadan korumaksa, o zaman bunu yapmak için etkili bir strateji olarak ilk büyük sınavından başarıyla geçmiştir Şirketin kurucusu ve CEO’su Kyle Vogt, istifa Pazartesi günü Kaliforniya eyaleti, şirketi bir yayanın yaşadığı şiddet olayıyla ilgili önemli ayrıntıları açıklamamakla suçladı Elbette şunlar vardı: Halefiyet Mizah Bir dizi görsel sanatçının Midjourney ve Stability AI’ye karşı açtığı dava hepsi dışarı atıldı Geçen ay bir hakim tarafından OpenAI yönetim kuruluyla alay etti Altman’a karşı yapılan darbeyi tamamen ortadan kaldırdığı için Hafta sonu, “Yapay Zeka güvenliği” hakkındaki anlatı ortaya çıktıkça, bu inanç sisteminin daha ateşli taraftarlarından bazıları X’i tercih etti

    Diğer yazarlar zaten teklif etti arızalar OpenAI’nin benzersiz organizasyon yapısının onu nasıl kendisiyle çatışma rotasına soktuğu hakkında