2017/02/01

Mantıksal tümevarım

Geçen sene ispatlanması gereken basit bir teorem olduğunda hoca bunun ispatının çok kolay olması lazım dedi. Kolay olup olmadığını bilmiyorduk tabii. Sonra iki gün içinde gördük ki öyleymiş, daha önceki ispatların basit bir şekilde modifiye edilmesi yeterliymiş. Bir ispatın olup olmaması 0 veya 1 fakat ispat yapılmadan önceki inançlar aslında 0 veya 1 değil. Yani ispatın kolay olması lazım demek aslında ispatın varlığı olasılığının yüksek olduğu anlamına geliyor. Nerde? Elbette söyleyen kişinin algısında (subjective probability). Yani mantıksal bir önerme hakkında a priori inançlarımız (prior) ve sonuç olarak belirsizliğimiz olabiliyor (logical uncertainty).

Bu aslında matematikçilerin sürekli yaptıkları bir şey: Örnek olarak en ünlülerinden biri, ikiz asallar hipotezi, verilebilir. Hipotez aralarında 2 fark olan asalların sonsuza kadar gittiğini söylüyor, 11-13, 17-19 vesaire. Yakın zamana kadar bu hipotezin doğruluğuna dair çok az şey biliniyorken, bir matematikçinin iki ardışık asalın arasındaki farkın sonlu olduğunu göstermesiyle matematikçiler epey bir umutlandılar. Umutlanmak ne demek? İspatın varlığına dair inançları arttı. Yani ispatın varlığına dair olasılıklarını güncellediler ve artık ispatı daha olası görmeye başladılar...

Peki bu olasılıklar hesaplanabilir mi? Mantıksal önermeler üzerinde olasılıklar tanımlanabilir ve Bayesvari şekilde güncellenebilir mi?
Every student of mathematics has experienced uncertainty about conjectures for which there is “quite a bit of evidence”, such as the Riemann hypothesis or the twin prime conjecture. Indeed, when Zhang (2014) proved a bound on the gap between primes, we were tempted to increase our credence in the twin prime conjecture. But how much evidence does this bound provide for the twin prime conjecture? Can we quantify the degree to which it should increase our confidence? 
The natural impulse is to appeal to probability theory in general and Bayes’ theorem in particular. Bayes’ theorem gives rules for how to use observations to update empirical uncertainty about unknown events in the physical world. However, probability theory lacks the tools to manage uncertainty about logical facts. 
Bu paragraf şu makalenin girişinden. Makalenin özet versiyonu da var. İlginç olduğu kadar da uzun bir makale! Şimdilik hakkıyla okuyacak vakit yok ama olursa teknik özetimi almost stochastic'e yazarım.

Başka güzel bir şey var bu çalışmayla ilgili: Problemi finans terimleriyle formüle etmişler. Önermeleri pricing kavramıyla evcilleştirmişler (quantify'a iyi bir çeviri bulamadım!). Valla aklıma gelmişti. Başka bir kontekstte gelmişti (bilimsel fikirler nasıl fiyatlanabilir?) ama bu da epey iyi.

Son olarak çalışma bir enstitüten. Bağış toplayarak varlıklarını idame ettiriyorlar. AI temalı bir enstitü olduğu için para bulması çok zor olmuyordur muhtemelen. Bana sorarsanız azıcık teorik matematik departmanı gibi olmuşlar, ki, daha iyi. Mis gibi model.

2017/01/25

Bilimsel metodolojiyi düzeltmek

Dün Twitter'da paylaştım ama buraya da bir not düşme ihtiyacı hissettim şuradaki haber hakkında: Bir milyarder, 22 yaşında trader olmuş 38 yaşında da 3 milyar dolara yakın bir kişisel servetle emekli olmuş, filantropi olarak da bilimsel metodolojiyi düzeltme işine girişmiş. Ne güzel! Tam olarak milyardolarlarım olsa yapacağım şey. Meğerse yıllardır ortalığı sarsan Ioannidis'in çalışmaları (Why Most Published Research Findings Are False) veya son zamanlardaki tekrarlanabilirlik krizine giden çalışmalar bu arkadaşın vakfı tarafından fonlanmış. Haberim yoktu. Ciddi ciddi adamlar yapmış.

Böyle şeyler görünce çok seviniyorum çünkü aslında sırtımdan yük alınmış gibi hissediyorum. Ioannidis'in makalelerini okuduğumda da aynı şeyi hissetmiştim.

Yazıda birkaç tane buraya alıntılamaya değer paragraf var. Mesela şu sıkça düşündüğüm bir şeydi:
“As a general rule, the incentives related to quantitative research are very different in the social sciences and in financial practice,” says James Owen Weatherall, author of The Physics of Wall Street. “In the sciences, one is mostly incentivized to publish journal articles, and especially to publish the sorts of attention-grabbing and controversial articles that get widely cited and picked up by the popular media. The articles have to appear methodologically sound, but this is generally a lower standard than being completely convincing. In finance, meanwhile, at least when one is trading with one’s own money, there are strong incentives to work to that stronger standard. One is literally betting on one’s research.”
Traderlar da veri ile ilgileniyor ama hipotezlerine para yatırıyorlar. Eğer yanlış çıkarsa para kaybediyorlar. Bu yüzden kestirim hatalarına karşı çok daha dikkatliler. Peki biliminsanları? Salla gitsin, kimse kontrol etmiyor zaten sonuçları, en fazla geri çekeriz olur biter. En fazla geri çekeriz kısmını düşündüklerini dahi sanmıyorum. Bu araştırmalarda hep sosyal bilimcilere odaklanmışlar ama fen bilimcilerin çok farklı olduğu söylenebilir mi?
“Scientists really do want to discover things that make a difference in people’s lives. In a sense, that’s the strongest weapon that we have. We can feed off that.” Figuring out exactly which rewards work best and how to simultaneously change the incentives for researchers, institutions, journals, and funders is now a key area of interest for Goodman and Ioannidis.
Doğal olarak ne tip bir ödül yapısı kurabiliriz diye düşünüyorlar. Birkaç özelliği baştan belli: Hatalar biliminsanına zarar vermeli ama biliminsanlarını riskten sakınma moduna sokacak kadar da kötü olmamalı (Aynı şekilde öğrencilerin performansı ve başarısızlığı için de kesin ödüller ve cezalar olmalı, yoksa pek çok arkadaşımın başındaki danışman piskopatlığı belası hiç bitmez). Ödüller de aynı şekilde motive edici olmalı. Böyle yüzlerce madde listelenebilir. Ama benim listelenmiş maddeler ve dayatılması gereken kurallar ile bir yere varılacağına dair pek umudum yok. Neyin çalışabileceğine dair birkaç fikrim var ama şimdilik yazmak için erken.

2017/01/14

Sosyal davranışı açıklamak

Küçüklüğümden beri (öhöm, artık bunu diyecek kadar yaşlıyım) sosyal bilimlere hep ilgi duydum. Sosyal bilimler diye sınıflandırılabilecek tek bir bina yok ama tanımlamak istersek genel olarak sosyal hayatı metodolojik bir gözle analiz etmeye çalışan yaklaşımlar diye tanımlayabiliriz. 'Sosyal hayat'a ise insan topluluklarının neden ve nasıl organize olduğundan, bireysel olarak insan davranışlarının arkasındaki sebeplere ve motivasyonlara kadar, insanla ilgili her şeyi dahil edebiliriz.

Peki neden insanları incelemek için böyle ayrı bir bilim dalına ihtiyaç var da, örneğin, diğer canlıları biyoloji gibi daha deneye açık yöntemlerle inceleyebiliyoruz? Çünkü, çok kaba bir tasnifle, diğer canlıların birbirleriyle ilişkileri ve organize olma biçimleri genelde kimyasal ve fiziksel seviyede açıklanabiliyor. Örneğin iki küçük canlının birbirleriyle iletişimi büyük oranda kimyasal temellere dayandığı için bu hayvanların davranışına dair pek çok şey deneylerle ve nedensel akıl yürütme ile anlaşılabiliyor. Elbette bu alanlarda da hala pek çok gizem ve çözülememiş soru mevcut. Ama insanların neden ve nasıl organize olduğu ve neden belli bir durumda belli bir şekilde davrandığı sorusundaki cahiliyetimiz diğer bir canlınınki ile yarışamaz. Çünkü insanlar, en başta, birbirlerine mesaj verirken kimyasal ve fiziksel şeylerden çok daha fazla soyut şeyleri kullanıyorlar. Örnek olarak, bir politik liderin destek toplaması ila bir Kraliçe arınınkine bakabiliriz. Politik lider insanların güvenini ve desteğini kazanmak için birçok sosyal kabule, hikayelere ve politik mesajlara dayanmak zorundayken, Kraliçe arının liderliği tamamen biyoloji (yani fiziksel ve kimyasal süreçler) temelli [1]. Hal böyle olunca, insanların davranışını incelemek için fizik ve kimyadan ziyade, bu hikayeleri ve kurguları analiz konusu etmek gerekir - ki sosyal bilimin çıkış noktası burası.

Tabii serde pozitivizm olunca, son yüzyılda, edebiyatçıların önceki yüzyıllarda yazmaya çalıştığı şeyleri, fizik makalesi formatında yazmaya çalışan bir sürü meraklı arkadaş türedi. Bunlar şu an dokuz yanlışa ve bir doğruya isabet etme şeklinde bir metodoloji izliyorlar, yaptıkları şeylerin önemli bir kısmı yeniden üretilemiyor (bilimin temeli!).

Gene de konu çok ilginç. Ve hakkını veren insanlar yok da değil. Mesela istisna olarak son zamanlarda Explaining Social Behavior: More Nuts and Bolts for the Social Sciences diye bir kitap okuyorum. Kitap epeyce yüklü, haliyle oku-bitir formatına uymuyor, üstüne düşündürüyor, sanırım birkaç aydır ortalıkta ama henüz ancak 2/3'ünü bitirebildim. Üstelik en heyecanlı kısmı geriye kalan kısmı gibi görünüyor... Jon Elster bu yukarıda bahsettiğim sosyal bilim literatürünü, kendi seçtiği edebiyatçı ve filozofların yaklaşımlarıyla harmanlıyor, yani fizik makalesi formatında insanı inceleyen çalışmalara dayandığı kadar, Proust, Montaigne gibi yazarları da kaynak olarak kullanıyor. Haliyle insanlara 5'er lira dağıttık, kafalarını karıştırdık, kafaları karışmış gibi davrandılar şeklindeki psikoloji literatüründen uzak, davranışları hakikice açıklamaya çalışıyor. Kitabı kütüphaneden almıştım ama Moleskine not defterimi nerdeyse bitirmeme sebep olduğu için yine pahalıya geldi!

Bir de sosyal davranışları açıklamaya çalışmanın başka bir çekici tarafı daha var. Bu konuda vardığınız her yeni sonucu hayatınızda doğrudan deneyebiliyorsunuz. Dolayısıyla insan bu konudaki fikirlerini, hayatın içinde yaşayarak deneyebiliyor, haliyle zararını veya faydasını görebiliyor. Şu yukardaki sosyal bilim literatürünün temel problemi de buydu bana kalırsa. Örneğin zor okunan fontların öğrencilerin dikkatini topladığını (çünkü okurken zorlanınca dikkatleri toplanıyormuş) iddia eden ve tekrarlanabilirlik krizinde güme giden arkadaş eğer o makalesinden sonra her şeyini zor okunan fontlara dayanarak yapsaydı saçmaladığını anlayabilir miydi? Muhtemelen...

1. Bu kraliçe arı örneği yanılmıyorsam benim aklımda Harari'nin Sapiens: A Brief History of Humankind kitabından kalma. Her halükarda insanların dünyayı domine etmesini hikayelere bağlayan ve o bağlantıyı benim kafamda ilk açan kitap odur. Başka pek çok konuda da ufuk açıcı.

2016/10/25

Cheatsheet

Şöyle bir şey yapmışlar, buraya koyayım da kaybolmasın. (üstüne basınca büyüyor). Bence çok güzel olmuş.


Şurdan aldım. Bir de poster versiyonu var. Alıp asmalık.

2016/09/10

DeepMind

Yapay zeka alanındaki gelişmeleri takip edenler biliyordur, DeepMind diye bir şirket var: Geçenlerde Go şampiyonunu yenen yapay zeka algoritmalarını yazan ve daha pek çok alanda epey yenilikçi işler yapan, çok güzel makalelerin çıktığı bir şirket. Geçen yıllarda Google tarafından satın alındığı için, tam adları şu anda Google DeepMind. Birkaç gün önce de müzik üreten modellerini duyurdular, onlar da epeyce başarılı.

Şimdi sinopsis şöyle: Bu arkadaşlar bir startup ama araştırma işiyle uğraşıyorlar. Görece yeni kurulmuş bir şirket olarak birçok üniversiteden daha başarılılar. An itibariyle 2 defa Nature'a kapak oldular. Kurucuları elbette bu alanda iyi bir çevreye sahip insanlar fakat kesinlikle ünlü profesörler tarafından falan kurulmuş bir şirket değil (hatta kurucuların bazıları machine learning konusunda teknik bilgi sahibi insanlar dahi değil). Ancak elbette sonradan çok ünlü insanları aralarına kattılar. ICML, NIPS gibi alanın ünlü konferanslarına her seferinde 10-20 gibi fantastik rakamlarda makale kabul ettiriyorlar, dünyanın en iyi ilk 5 üniversitesinin söz konusu konferanslardaki makale sayısını toplasak aşağı yukarı aynıdır herhalde.

Ben üniversitelere ilk adım attığım günden beri, bu hantal, politik entrika dolu ve insanların birbirlerini ilk yazarlık için yediği köhne yapıların hem araştırma hem de eğitim için çok kötü modeller olduğunu düşünüyordum zaten ve görüldüğü kadarıyla çok istisna birkaç tanesi dışında farklı olanı da pek yok. O zamanlar özel sektörün bilimin herhangi bir alanında bu çapta işler yapabileceğini bilmiyorduk tabii (SpaceX, OpenAI falan da ortada yoktu). Benim böyle düşüncelerim hep vardı ama çok uçuk görünüyordu. Yıllarca üniversite dışında bu işler nasıl yapılır diye düşündüm; görünüyor ki bu fikirler kimilerinin zannettiği kadar uçuk olması bir yana, mantıklı olanmış. Umarım bunlar birkaç uç örnek olmaktan ziyade, ana akım haline gelir; biz de modern akademiyi bilimin kurtulduğu bir hastalık olarak anarız ilerde.

Son yıllarda hem yazmak istediğim gibi kitapları yazan, hem de kurmak istediğim gibi şirketleri/kurumları yaratan insanlarla karşılaşıyorum gitgide. Bu çok güzel, demek ki bende bir sorun yokmuş! Yalnız gördüğüm tek bir şey var, bu işler benim aklımın alabileceğinden çok daha da zormuş. Boş işlerle uğraşacak hiç vakit yok!

2016/08/15

Taleb at AUB

Bizim abinin mezuniyet konuşması. Şurada yazılı hali de var. Twitter'dan ara sıra beni kızdırıyor gerçi kendisi ama kredisi çok büyük bende. Bu konuşma da gayet iyi.
[Y]our biology is the best nonsense detector; use it to navigate your life.
kısmını özellikle sevdim. Kendisini tanımazken de bunu yapıyordum çünkü. Midemi bulandırdığı için, bütün vücudumun çalışmayı reddettiği sınavlar oldu; sonuçta geçmeyi reddettiğim için kalmıştım. Şimdi bakıyorum, biyolojim acayip bilgeymiş gerçekten de.

İyi seyirler.

2016/08/12

Rowling at Harvard

Now, I am not going to stand here and tell you that failure is fun. That period of my life was a dark one, and I had no idea that there was going to be what the press has since represented as a kind of fairy tale resolution. I had no idea then how far the tunnel extended, and for a long time, any light at the end of it was a hope rather than a reality. 
So why do I talk about the benefits of failure? Simply because failure meant a stripping away of the inessential. I stopped pretending to myself that I was anything other than what I was, and began to direct all my energy into finishing the only work that mattered to me. Had I really succeeded at anything else, I might never have found the determination to succeed in the one arena I believed I truly belonged. I was set free, because my greatest fear had been realised, and I was still alive, and I still had a daughter whom I adored, and I had an old typewriter and a big idea. And so rock bottom became the solid foundation on which I rebuilt my life.

2016/08/09

İsmail

İsmail'in kardeşi onu anmak için bir site açmış. Onu görünce, burada başladığım ama bir türlü bitiremediğim İsmail yazısı geldi aklıma. Uzun zamandır ne yazmaya çalıştıysam sildim. Silbaştan yenisini yazdım.

Onu burada anmak özellikle yerinde çünkü biz İsmail ile aslında bu blogda tanıştık. Blogu yeterince gezerseniz mutlaka bir yazıda yorumuna denk gelirsiniz. Benim İTÜ'de olduğum zamanlar burayı takip eder, yorum yazar, ben de onun blogunu takip ederdim. Boğaziçi'ne geçince, bir süre buradan tanıştığımızı çaktırmadım. Ama eğitim ve bilim gibi konularla hakikice ilgilenen insanlar olarak uzunca muhabbetlere dalmamız uzun sürmedi. Bir gün ettiğimiz muhabbetlerin de etkisiyle ışık yanmış, 'Deniz konsepte aykırı mı lan yoksa?' diye. Gece gece Barış'ı aramış. Ertesi gün yanımda Schopenhauer'le dalga geçiyorlardı, dayanamadım lafa girdim, öylece dediler 'ne diye söylemiyorsun oğlum?' diye, resmileştirmiş olduk.

İsmail'i bilen biliyor, cana yakın, hevesli, gülümsemesini hatırlamamanın mümkün olmadığı birisiydi. Bir şeyler anlatmanın güzel olduğu insanlardan birisiydi. Ettiğim bazı laflara inanmaz, tahtaya götürür türettirirdi. Sosyal içerikli konularda, her samimi arkadaş gibi, sık sık ayrı düştüğümüz olurdu. Ben hiç eksik olmayan en radikal fikirlerimi ve eleştirilerimi İsmail'e gayet normal şeylermiş gibi açardım, şöyle kafasını geriye atıp 'Oğlum amma acayip adamsın ha!' diye samimice söylenirdi.

Bir keresinde, bölüm kapısından çıkıp çay içmeye gidiyorken aniden 'böyle blog yazıyoruz, Türkçe içerik oluşturuyoruz ama hiçbir kıymeti yok. Yarın başka birisi Amerika'da doktora yapmış diye, bizden çok daha kıymet verip, onlara öncelik verecekler' diyiverdi. Bu duygu diğerlerinden farklı işler yapan her insanda belirgindir, insan bazen her şeyden şüphe eder, ben bunları yapıyorum da ne oluyor duygusu iyice üste çıkar. Teselli edip, o blogdakileri değerli yapanın neye kıymet vereceğini bilmeyen insanların verip/vermediği değer olmadığını söylemiştim. Lafı böyle karıştırdım mı emin değilim (muhtemelen) ama ikna olmuştu, 'haklısın!' demişti. Eğer hayal ettiği gibi Türkiye'de hoca olabilseydi bu işte fark yaratacak, parmakla gösterilebilecek çok az sayıda insandan birisi olacaktı muhtemelen.

Stackoverflow tutkunuydu, oturup oradan insanların sorularını cevaplardı. Hatta bir keresinde Stackoverflow'da iyi bir profile sahip olmanın kendisi için pek çok şeyden daha motive edici olacağını söylemişti. Benim anlayamadığım bir şekilde yardım etmekten haz alıyor, aldığı ve öğrendiği her bilgiyi nasıl paylaşabileceğini düşünüyordu. Bu yüzden görselleştirme araçlarını araştırıyor, blogunun tasarımına dikkat ediyor, kullandığı görselleri özenle tasarlıyordu. Bazen beni bilgisayarı başına çağırıp blogunun sağ köşesinde şu noktada bu not çıksa insanlar daha mı iyi anlar diye bana soruyor, uzun uzun uğraşıyordu. Onun kadar bu işe düşkün birisini tanımadım. Bu yüzden çok çok iyi bir öğretmen olacaktı şüphesiz.

Ardından hepimiz ikilem içinde kaldık, anlayamadık. Sevdiklerimize sarılıp ağrımızı hafifletmeye çalıştık. Tabii o zamanlar dünyanın nasıl bir yer olduğuna dair çok daha az bilgim vardı. Sebepler düşündüm, kendi içimde bir sürü şeyi suçladım. Ama sonuçta bir sebebi de yoktu sanırım. Yaşadığı 30 yıl içinde bu kadar çok insanın hakkında o kadar güzel şey söyleyebildiği, tanıdığım tek insandı. Şimdi adına yaz okulları düzenleniyor, onun mutlu olacağı gibi insanlar onun adına bilgilerini birbirleriyle paylaşıyor ve muhtemelen ilerde daha güzel şeyler de yapılacak. Hakikice verdiği emeği boşa gitmedi, hep istediği gibi insanlara ilham veriyor. En azından onu görmek güzel.

2016/08/06

Zamanı gelmedi mi?

Bugünkü akademisyen güruhuna bakıldığında insanın içine fenalık veren bir insan profili var. Çoğunluğu garip bir nerdlik deryası içinde, insan ilişkilerini anlayamayan, süper steril ahlaki duruşunu akademi dışındaki her şeye (Türkiye'de Erdoğan, ABD'de Trump, İspanya'da bilmemne vesaire) yönelterek (ama akademi içindeki herşeyi görmezden gelerek) ahlaklı olduğunu zanneden, hayatını grant yazma veya reviewerlar ile mücadeleyi otomatize etme üzerine kurmuş, en temel özellikleri ölümüne sıkıcı olmak olan insanlar. Hayatı boyunca işleri rast gitmişler. Neden bu problem çözülürse büyük bir iş yapılmış oluyor ki? sorusuna tipik olarak çünkü herkes öyle düşünüyor diye cevap verenler. Birbirlerini taklit edip, CV mühendisliği yapanlar, çözdükleri problemi neden çözdüğünü bilmeyenler. Reviewer oldukları zaman en aptalca yorumları yazanlar, sırf bir lafı söyleyebildiği için söyleyenler!

Tabii benim bunlara karşı nefretle karışık duygularımda pek çok şeyin etkisi var ama orasını geçelim şimdilik.

Oysa eskiler böyle mi? Birçok saçmalık yapmışlardır eminim ama ellerini kirleten, risk alan adamlardan geçilmiyor bilim tarihi. Dünyanın en sıkıcı işlerini büyük bir ciddiyetle yapan bugünkülerin yanında, teleskoplarını tüccarlara satmak için girişimcilik peşinde koşan Galileo; iç işleri bakanı Laplace; Mısır'da tarih enstitüsü kurmuş ve valilik yapmış Fourier; askeri deniz üssü yapımında kariyerine başlayan Cauchy; aslen hukukçu olan Fermat; simyacı, okültist ve para basımından sorumlu Newton; fabrikatör James Joule; patent memuru Einstein... Bunlar bir çırpıda aklıma gelenler. Sayısız icatlarıyla sayısız küçük katkıda bulunmuş binlerce zanaatkar ve irili ufaklı pek çok biliminsanı var. Bilimin bu tarz hakiki olarak heyecanlı insanların elinden çıkıp, spekülatif bir spor haline dönüşmesi son yüzyılın işi. Ve kalıcı da olmayacak.

Geçenlerde Elon Musk'ın hikayesinin anlatıldığı şu çok güzel kitabı okudum. Kitap 2015 yılında yayınlanmış. O sırada geçenlerde şahit olduğumuz drone landing'in henüz planları var ve elbette havacılığın ileri gelenleri bunun nasıl imkansız olduğunu tekrar edip duruyor. Sadece 1-2 yılda mühendislikte katedilen mesafeyi görüyorsunuz. Bunun yanına, neredeyse hiçbir şey söylemeyen dergi makalelerinin kabul olmasının iki yılı bulması ve uğraştığınız onca aptallığı koyun. Niye yayınlıyoruz ki o makaleleri sorusunun cevabı bile yok!

19. yüzyıl fizikçisini, 21. yüzyıldaki fizikçiyle; ondokuzuncu yüzyılda adına biliminsanı denenleri bugünün akademisyenleriyle karıştırmamak gerekiyor. İkisi farklı meslekler.

Bana bu eski karakterleri canlandırmanın vakti gelmiş gibi geliyor. Sizce de öyle değil mi?

2016/06/23

Unbroken

Yes! :)