Isinulat ni: Zhixiong Pan
Ang artikulo ni Vitalik na inilathala ilang linggo na ang nakalipas na pinamagatang "Galaxy Brain Resistance" ay medyo mahirap intindihin, at wala pa akong nakitang magandang paliwanag, kaya susubukan ko.
Pagkatapos ng lahat, nakita ko na pati ang lumikha ng salitang Vibe Coding na si Karpathy ay nagbasa ng artikulong ito at nag-notes pa, kaya tiyak na may kakaiba rito.
Una, pag-usapan natin ang pamagat na Galaxy Brain at Resistance, ano ang ibig sabihin ng bawat isa, at kapag naunawaan mo ang pamagat, maiintindihan mo na rin ang nilalaman ng artikulo.
1️⃣ Ang Galaxy Brain ay literal na isinasalin bilang "galaxy brain", ngunit ito ay nagmula sa isang internet meme, na parang pinagsamang (🌌🧠) na larawan, siguradong nakita mo na ito.
Noong una, ito ay positibo, ginagamit upang purihin ang isang napakagandang ideya, ibig sabihin ay matalino. Ngunit kalaunan, dahil sa labis na paggamit, naging isang uri ng pang-iinis, na parang "masyadong nag-iisip, masyadong malayo ang lohika".
At dito, binanggit ni Vitalik ang 🌌🧠, na tumutukoy sa uri ng "paggamit ng mataas na IQ para sa mental gymnastics, pilit na ginagawang makatuwiran ang hindi makatuwiran". Halimbawa:
- Malinaw na nagtatanggal ng maraming empleyado para makatipid, pero sinasabi pang "nagbibigay ng mataas na kalidad na talento sa lipunan".
- Malinaw na naglalabas ng air coin para mag-rug pull, pero sinasabing "pinapalakas ang global economy gamit ang decentralized governance".
Lahat ng ito ay maituturing na "galaxy brain" na pag-iisip.
2️⃣ Ano naman ang ibig sabihin ng Resistance (laban o resistensya)? Madaling malito rito, pero sa mas popular na termino, ito ay parang "kakayahang hindi madala sa hype" o "kakayahang hindi malinlang".
Kaya ang Galaxy Brain Resistance ay dapat na Resistance to [becoming] Galaxy Brain, ibig sabihin ay "kakayahang labanan ang pagiging galaxy brain (pagsasalita ng walang basehan)".
O mas eksakto, ito ay tumutukoy sa kung gaano kadali o kahirap abusuhin ang isang istilo ng pag-iisip o pangangatwiran upang "patunayan ang kahit anong gusto mong konklusyon".
Kaya ang "resistensya" ay maaaring tumukoy sa isang "teorya", halimbawa,
- Teoryang may mababang resistensya (Low Resistance): Kaunting pagsusuri lang, agad na nauuwi sa sobrang "galaxy brain" na lohika.
- Teoryang may mataas na resistensya (High Resistance): Kahit anong pagsusuri, nananatili itong matibay, mahirap gawing katawa-tawa ang lohika.
Halimbawa, sabi ni Vitalik, sa ideal niyang lipunan, dapat may malinaw na linya sa batas: tanging kapag malinaw mong naipaliwanag kung paano nakakasama o nagdudulot ng panganib sa isang partikular na biktima ang isang gawain, saka lang ito dapat ipagbawal. Ang ganitong pamantayan ay may mataas na Galaxy Brain Resistance, dahil hindi nito tinatanggap ang mga dahilan tulad ng "hindi ko gusto" o "nakakasira ng moralidad" na masyadong malabo o pwedeng palawigin nang walang hanggan.
3️⃣ Nagbigay pa si Vitalik ng maraming halimbawa sa artikulo, kabilang na ang mga teoryang madalas nating marinig, tulad ng "long-termism" at "inevitabilism".
Ang "long-termism" ay mahirap labanan ang pagpasok ng 🌌🧠 na pag-iisip, dahil napakababa ng resistensya nito, parang isang "blank check". Dahil ang "hinaharap" ay masyadong malayo at malabo.
- Mataas ang resistensya: "Ang punong ito ay lalaki ng 5 metro pagkatapos ng 10 taon." Ito ay nasusukat at mahirap gawing kwento lang.
- Mababang resistensya ng "long-termism": "Bagaman gagawa ako ngayon ng isang napaka-imoral na bagay (halimbawa, alisin ang ilang tao, o magsimula ng digmaan), ito ay para sa utopian na buhay ng sangkatauhan 500 taon mula ngayon. Ayon sa aking kalkulasyon, ang kabuuang kaligayahan sa hinaharap ay walang hanggan, kaya ang kasalukuyang sakripisyo ay bale-wala."
Kita mo, basta pahabain mo lang ang panahon, pwede mong bigyang-katwiran ang kahit anong kasamaan sa kasalukuyan. Gaya ng sabi ni Vitalik: "Kung ang iyong pangangatwiran ay kayang gawing tama ang kahit anong bagay, wala kang napatunayan."
Gayunpaman, inamin din ni Vitalik na "mahalaga ang long-term", ang kinokondena niya ay ang "paggamit ng sobrang malabo at hindi mapapatunayang benepisyo sa hinaharap upang takpan ang malinaw na pinsala sa kasalukuyan".
Isa pang problema ay ang "inevitabilism".
Ito rin ang paboritong depensa ng Silicon Valley at tech circle.
Ganito ang linya: "Ang AI na pumalit sa trabaho ng tao ay isang historical na inevitability, kahit hindi ko gawin, gagawin ng iba. Kaya ang agresibo kong pag-develop ng AI ay hindi para kumita, kundi para sumabay sa agos ng kasaysayan."
Saan mababa ang resistensya? Perpekto nitong tinatanggal ang pananagutan ng tao. Dahil "inevitable" naman, hindi ko na kailangang managot sa pinsalang dulot ko.
Ito rin ay isang tipikal na galaxy brain: ang personal na kagustuhang "kumita / magkapangyarihan" ay binabalot bilang "ginagampanan ko ang tungkulin ng kasaysayan".
4️⃣ Kaya, paano natin haharapin ang mga "patibong ng matatalino" na ito?
Ang solusyon ni Vitalik ay nakakagulat na simple, halos parang "tanga". Naniniwala siya na habang mas matalino ang isang tao, mas kailangan niya ng mga patakaran na may mataas na resistensya upang pigilan ang sarili na magpakalayo-layo sa mental gymnastics.
Una, panindigan ang "deontological ethics", ibig sabihin ay ang mga moral na batas na parang sa kindergarten.
Huwag nang mag-compute ng mga komplikadong math para sa "kinabukasan ng sangkatauhan", bumalik sa pinaka-basic na prinsipyo:
- Huwag magnakaw
- Huwag pumatay ng inosente
- Huwag mandaya
- Igalang ang kalayaan ng iba
Ang mga patakarang ito ay may napakataas na resistensya. Dahil ito ay black and white, walang negosasyon. Kapag sinubukan mong gamitin ang "long-termism" para bigyang-katwiran kung bakit mo inilipat ang pondo ng user, ang "huwag magnakaw" na patakaran ay diretsong sasampal sa iyo: pagnanakaw ay pagnanakaw, huwag gawing dahilan ang "dakilang financial revolution".
Pangalawa, magkaroon ng tamang "posisyon", kabilang na ang pisikal na lokasyon.
Sabi nga, "ang upuan ang nagdidikta ng utak". Kung araw-araw kang nasa echo chamber ng San Francisco Bay Area, puro AI accelerationist ang kasama mo, mahirap manatiling malinaw ang isip. Maging si Vitalik ay nagbigay ng pisikal na mungkahi para sa mataas na resistensya: huwag tumira sa San Francisco Bay Area.
5️⃣ Buod
Ang artikulo ni Vitalik ay isang babala sa mga sobrang talinong elite: huwag mong isipin na dahil mataas ang IQ mo, pwede mo nang lampasan ang simpleng moral na linya.
Ang mga "galaxy brain" na teorya na tila kayang ipaliwanag ang lahat ay madalas na pinaka-mapanganib na panakip-butas. Sa halip, ang mga tila mahigpit at dogmatikong "mataas ang resistensya" na patakaran ang huling depensa laban sa panlilinlang sa sarili.
