The Download: Yapay zeka kıyametçileri, ihbar eden ajanlar ve yaşını geri alınmış karaciğerler | MIT Technology Review
Bu, teknolojide olup bitenleri günlük dozda sunan hafta içi bültenimiz The Download’ın bugünkü sayısı.
Yapay zeka sektörü kıyametçi bir döneme girdi. Peki şimdi ne olacak?
Yapay zeka yöneticileri Dario Amodei, Sam Altman, Elon Musk ve Demis Hassabis birden aynı fikirde: en yeni nesil büyük dil modelleri güvenli değil ve bunun ne yapılacağı konusunda herkesin bir şeyler düşünmesi gerekiyor.
Bu duruma şüpheyle bakmak kolay. Trilyon dolarlık halka arzların eşiğinde olan OpenAI ve Anthropic, yatırımcılara odadaki yetişkinler olduklarını gösterirken aynı zamanda yarattıkları ve evcilleştirmeyi amaçladıkları canavarların gücüne de işaret etmek istiyor. Yavaşlama çağrısı her iki amaca da hizmet ediyor.
Yine de bu şirketlerin tepesindeki havanın gerçekten değiştiği görülüyor. Ancak yavaşlama tam olarak ne anlama geliyor ve bunu talep eden şirketlere ne kadar güvenebiliriz?
—Will Douglas Heaven
Yuvarlak masa: Yapay zeka gerçekten hepimizi öldürebilir mi?
Yapay zeka yok oluşu korkuları marjinal bir fikirden, dünyanın önde gelen yapay zeka laboratuvarlarında çalışan kişilerin ciddi şekilde kaygı duyduğu bir konuya dönüştü. Bu korkular ne kadar inandırıcı ve uyarılar karşısında ne düşünmeliyiz?
Bugün MIT Technology Review yönetici editörü Niall Firth, kıdemli yapay zeka editörü Will Douglas Heaven ve yapay zeka muhabiri Grace Huckins, abonelere özel bir Yuvarlak Masa’da tartışmayı ele alacak. Yapay zeka yok oluşu korkularının nereden geldiğine, bunların tutarlı olup olmadığına ve öyleyse ne yapılması gerektiğine bakacaklar.
Yayın bugün 16:00 BST / 11:00 EST / 08:00 PST’de.
Yapay zeka ajanları hile yapan meslektaşları hakkında ihbarda bulundu
Bir grup yapay zeka ajanı bir dizi matematik problemini çözmekle görevlendirildi ve rakip gruplara ayrıldı; bazıları hile yaptığında diğerleri onları durdurmaya çalıştı.
Google DeepMind tarafından yürütülen yakın tarihli bir deneyde ilk kez görülen bu ihbar davranışı, otonom yapay zeka ajanları sürülerini kontrol altında tutmaya çalışan uyum araştırmacıları için sonuçlar doğurabilir.
Deney, yapay zeka ajanlarının birbirlerini nasıl denetleyebileceğine dair bir bakış sunuyor. Aynı zamanda ajanlar kendi başlarına etkileşime bırakıldığında işlerin ne kadar hızlı raydan çıkabileceğini de gösteriyor.
Bağışlanan karaciğerler biyolojik olarak daha genç hale getirilebiliyor
Bir organ bağışçısının vücudundan çıkarıldığı anda saat işlemeye başlar. Cerrahlar organı genellikle koruyucu bir solüsyonla yıkar, torbalar ve buzun üzerine koyar; burada hemen bozulmaya başlar. Ekip, organı alıcıya ulaştırmak için birkaç saati vardır.
Fakat başka bir seçenek de var: bağışlanan organlara besin pompalanmasını ve atık ürünlerin uzaklaştırılmasını sağlayan makineler, organlara sanki yeniden bir vücutta gibi bir şans veriyor. Şimdi bilim insanları, bu sistemlerde tutulan karaciğerlerin en azından moleküler düzeyde gençleştiğini buldu.
Bu bulgu, bu makinelerde tutulan organların nakil sonrasında neden daha iyi performans gösterdiğini açıklayabilir. Ayrıca bağışlanan organların sağlığını test etmenin yeni yollarına ve aksi halde atılacak organların onarılmasına da yol açabilir.
İnterneti taradım ve size bugün teknolojiye dair en eğlenceli/önemli/korkutucu/büyüleyici hikayeleri buldum.
1 Trump, yapay zeka güvenliği endişelerini “aldatmaca” olarak nitelendirdi ve daha fazla güvenceye karşı çıktı
ABD’nin yapay zeka avantajını zayıflatabileceğini söylüyor. (NBC)
+ Trump, Nvidia’nın Jensen Huang ile birlikte yapay zeka kıyametçiliğine karşı birleşti. (Axios)
+ Anthropic’in kurucusu, yapay zeka için öldürme anahtarlarının zorunlu hale getirilmesi gerektiğini söyledi. (BBC)
+ Bill Gates, yapay zekanın risk eşiklerini aştığımızı söyledi. (MIT Technology Review)
2 OpenAI yüklenicileri insanların ChatGPT sohbetlerini okuyor
Ve 900 milyon kullanıcısının büyük çoğunluğunun bundan haberi yok diyebiliriz. (404 Media)
+ Büyük dil modelleri kitlesel gözetimi hızlandırabilir. (MIT Technology Review)
3 ABD ordusu yörüngede silahlara sahip olduğunu doğruladı
Pentagon bu bilgiyi ilk kez açıkladı. (Ars Technica)
+ Yetkililer silahların ne olduğu konusunda bilgi vermedi. (BBC)
4 Yeni bir beyin implantı konuşmayı ve jestleri aynı anda çevirebiliyor
Sistem beyin aktivitesini kelimelere ve avatar hareketlerine dönüştürüyor. (Nature)
+ Bu sistem felçli kişilerin daha doğal iletişim kurmasına yardımcı oluyor. (New Scientist $)
+ Zamanla robotları veya dış iskeletleri kontrol edebilecekler. (Economist $)
+ Çin ilk invaziv beyin-bilgisayar arayüzünü onayladı. (MIT Technology Review)
5 New York bir düzine ünlü derin sahte web sitesine el koydu
Zararlı derin sahte sitelere karşı şimdiye kadarki en büyük hukuki eylem bu. (CNN)
+ Derin sahte içerikler en az 138 kadın AP milletvekilini hedef aldı. (Wired $)
6 ABD çevre düzenleyicileri elektrik santrali emisyonları üzerindeki sınırları kaldırıyor
Bu hamle, yapay zeka talebinin artmasıyla daha kirli elektriğe yol açabilir. (Verge)
+ Trump’ın Çevre Koruma Ajansı, geri adımın yüzlerce milyar tasarruf sağlayacağını söylüyor. (Gizmodo)
+ Yeni teknoloji nükleer enerjiyi değiştiriyor. (MIT Technology Review)
7 AB sosyal medya ve yapay zeka sohbet robotlarını çocuklar için kısıtlamayı planlıyor
15 yaş altı için ebeveyn gözetimi gerekecek. (Politico)
+ Kurallar video platformlarını ve oyunları da kapsayacak. (Reuters $)
8 Çinli araştırmacılar “insanlar tarafından inşa edilen son yapay zeka”ya giden yolu haritaladı
Beş aşamalı planları gerçek anlamda özyinelemeli kendi kendini geliştirmeyi hedefliyor. (SCMP)
+ Ancak oraya ulaşmanın biraz zaman alabileceği belirtiliyor. (MIT Technology Review)
9 Gerçek yapay zeka ekonomisi sıradan insanlar tarafından inşa ediliyor
Çalışanlar ucuz yapay zekayı kullanarak yapabileceklerini genişletiyor. (Rest of World)
10 Uranüs ve Neptün içinde var olabilecek iki tuhaf yeni buz formu
Bu buzlar gezegenlerin manyetik alanlarını açıklamaya yardımcı olabilir. (New Scientist $)
“Yapay zekanın ihtiyaç duyduğu tek kontrol ya da ‘güvenlik önlemleri’ GÜÇLÜ VE ZEKİ (Yüksek IQ!) bir BAŞKAN’dır ve ABD’nin böyle bir başkana sahip olduğunu söylemek abartı olmaz!”
—Başkan Trump, sosyal medya paylaşımında ABD’nin yapay zekadan korunması için kendisinden başka bir şeye ihtiyacı olmadığını ilan etti.
INSTITUTE OF PERSONALITY AND SOCIAL RESEARCH, UNIVERSITY OF CALIFORNIA, BERKELEY/THE MONACELLI PRESS
Yaratıcılık nasıl zamanımızın egemen değeri haline geldi
Amerikalılar günümüzde pek çok konuda anlaşamıyor olsa da, hep birlikte destekleyebileceğimiz en azından bir modern değer kalıyor: yaratıcılık. Onu öğretiyor, ölçüyoruz, ona imreniyoruz ve sürekli ölümünden endişe ediyoruz.
Bu kadar çok takıntılı olduğumuz için yaratıcılık her zaman varmış gibi hissedilebilir. Ancak kavram şaşırtıcı derecede genç. Kelimenin bilinen ilk yazılı kullanımı 1875’e kadar uzanıyor ve yaklaşık 1950’den önce konuyla açıkça ilgilenen “neredeyse sıfır” makale, kitap ya da deneme bulunuyordu.
Samuel Franklin’in The Cult of Creativity kitabında yaratıcılığın tartışılmaz bir değer haline nasıl geldiğini ve teknoloji liderlerinin bunu neden bu kadar coşkuyla benimsediğini inceliyor. Yaratıcılığa neden bu kadar hayran olduğumuzu, Silikon Vadisi’nin bunun varsayılan merkezi haline nasıl geldiğini ve yapay zekanın yaratıcılıkla ilişkimizi nasıl yeniden şekillendirebileceğini konuştuk.
Bir rahatlık, eğlence ve dikkat dağıtma alanı. Gününüzü aydınlatmak için.
+ Bu şaşırtıcı mermer parkuru inşa etmek beş gün ve 19.000 mermer aldı.
+ Zero the Border Collie, bu sevimli hayvan maskeleriyle bütün bir hayvanat bahçesine dönüşüyor.
+ Grainydays YouTube kanalı, film fotoğrafçılığında güzel çekilmiş maceralar sunuyor.
+ Bilim insanları, Güneş’e bir milyar kez ulaşacak kadar uzun yeraltı mantar ağlarının etkileşimli haritasını oluşturdu.
