Usalduse lahkamine: kindlus vs motivatsioon tegutseda

Mida me tegelikult ütleme, kui märgime kedagi enesekindlaks? Aga ülemäärane enesekindlus? Kui idufirma asutaja kallab oma aastaid oma ettevõttesse ilma edumärkideta, kas see tähendab, et ta mõistab edu saavutamise tõenäosust valesti? Kui keegi ikka liha sööb, kas see tähendab, et nad pole veendunud, et vabrikukasvatus on halb? Me teame, et kõige tõhusam on annetusi küsida, rääkides kümne haige tuhande lapse asemel ühe haige lapse lugu; mingil põhjusel muutuvad inimesed arvu kasvades emotsionaalselt vähem sunniviisiliseks.

Võib-olla on parem jagada enesekindluse idee kaheks eraldi osaks:

  • Kindlus: millise tõenäosuse saan omistada sellele, kas see mõte on õige?
  • Tegutsemise motivatsioon: kui intensiivselt olen sunnitud mingil sügaval intuitiivsel tasandil töötama selle ideega seotud eesmärgi nimel?

Siin on mõned võimalikud näited, mis aitavad ideed täiustada:

Kana söömine

Olen isiklikult nõus, et vabrikukasvatus on eetilisest küljest tõesti halb ja suurim mõjuerinevus oleks vähemalt kanade vabrikukasvatuse peatamine, kus on palju kannatusi. Seda öeldes ei suuda ma ikkagi Chick-fil-A kanatüdrukutele vastu seista ja üldiselt söön ma endiselt kana. Võib öelda, et minu kindlus on kõrge, kuid minu motivatsioon tegutseda on madal.

Concorde

Concorde'i arendust peetakse laiaulatusliku näitena. Vikipeediast:

Suurbritannia valitsus pidas projekti eraviisiliselt „äriliseks katastroofiks”, mida ei oleks tohtinud kunagi alustada ja see oli peaaegu tühistatud, kuid poliitilised ja juriidilised probleemid olid kummagi valitsuse jaoks lõpuks võimatuks

Võiksite siin iseloomustada langenud kulude eksitamist, kuna Suurbritannia valitsus ei kohandanud nende motivatsiooni tegutseda madalamal proportsionaalselt nende kindlusega, et Concorde'i projekt on väärt jätkamist. Nende kindlus oli madal, kuid motivatsioon tegutseda oli kõrge.

LessWrong ja MIRI

LessWrong on ratsionaalsuse arutelul põhinev kogukond, mis sai alguse suuresti Eliezer Yudkowsky esseesarja („Järjestused”) tõttu, mis puudutas inimeste käitumist, otsusteooriat, eetikat, metaeetikat ja lõpuks tehisintellekti teemasid. Järjestuste üks eesmärke oli veenda lugejaid teatud utilitaarses vaates, mida tuleks õiguspäraselt järgida isegi äärmustesse, mida on intuitiivselt raske tunda. Üks nendest järeldustest on see, et kui arendame tehisintellekti, mis võimaldab õppida ennast paremaks muutma, võime näha nende programmide luure eksponentsiaalset kasvu, mida oleks raske kontrollida. Idee on see, et üldine AI võib inimkonna hävitada, kui programmi kasulikkuse funktsioon on vale. Utilitaristlik argument on siis see, et isegi kui üldise AI toimumise tõenäosus on väike ja veelgi väiksem võimalus, et võiksime ennetavalt välja mõelda, kuidas seda ohutuks muuta, peaksime annetama oma raha AI ohutusuuringutele, sest väga väike tõenäosus AI tõttu lõppev maailm mitmekordistub suureks oodatavaks negatiivseks väärtuseks, mis peaks olema esikohal kõrgemal kui enamus heategevusorganisatsioone.

Selle essee jaoks on see kõik huvitav ja asjakohane, kuna võiksite lugeda LessWrongit väga pikaajalise katsena veenda meid selles, et meie kindlus peaks olema kõrge, et AI ohutus oleks rahastamist väärt ning seetõttu peaks olema kõrge meie motivatsioon tegutseda.

Sisemine motivatsioon

Miskipärast meeldib mulle isiklikult tarkvara tegemine, mis kontrollib, kas muu tarkvara on hästi kirjutatud. Enamik inimesi ei pea seda nii huvitavaks, nii et ma pean oma keelt hammustama, nii et mul pole inimestel tahtmatult sellest rääkida. Samamoodi on mul mõned sõbrad, kes tegelevad tõepoolest eluasemepoliitika ja linnakujundusega. Nädalavahetustel peetud teadliku pingutuse kaudu olen suutnud natuke aru saada, kui huvitavad mul need teemad on, kuid mul on tunne, et mul pole selle teema jaoks lihtsalt sama sädet, mis mu selle teema jaoks midagi muuta saaks Ma võin lõbu pärast kõõmu lugeda. Ma kujutan ette, et paljudel inimestel on need kogemused: isiklike veidruste komplekt, mis paneb sind teatud asjadest tõeliselt huvi tundma, mõeldes samal ajal ka sõbra veidrustele "ma lihtsalt ei saa seda".

Ma saan rääkida Devoni kõrva mutatsioonitestimisest ja ta võib rääkida mu kõrvust SB 827 kohta. Ma ütleksin, et olen Devoniga piisavalt rääkinud mutatsiooni testimisest, et olla kindel, et see on tarkvara analüüsimise alahinnatud tehnika. Samuti on Devonil olnud piisavalt aega, et rääkida minuga lahe piirkonna eluasemepoliitikast, et olla kindel, et meil peaks olema palju rohkem eluruume kui meil. Sellegipoolest oleksin üllatunud, kui Devon paneks sadu tunde mutatsiooni testimise tööriistade arendamiseks, nii nagu mul on, ja oleksin üllatunud, kui hakkaksin tundide kaupa iga päev tundide kaupa elamispoliitikat lugema, nagu ta seda teeb. Teisisõnu, oleme teineteise kindlust märkimisväärselt suurendanud, kuid meie motivatsioon tegutseda on püsinud suhteliselt konstantne.

Ma jätkan Chick-fil-A söömist, ehkki olen üsna veendunud, et tehaseviljelus on halb, sest minu kindluse ja tegutsemismotivatsiooni vahel on vastuolu. Tegelikult näib, et kindlus võib lihtsalt motivatsioonist tegutseda olla takistamatu, mistõttu jagasin Devoni näiteid ja rääkisin üksteisega meie vastavate obsessiivsete huvide kohta. Tagasilükatud kulude eksitus, mida mõnikord nimetatakse ka Concorde'i ekslikuks, on põhimõtteliselt väide, et kindluse muutumise korral reageerimise motivatsiooni mitte kohandamine on inimese ratsionaalsuse põhimõtteline rike. Meie mudel teiste veenmiseks näib siiski olevat järgmine: peate olema veendunud, et AI ohutus on oluline ja seetõttu peaksite olema motiveeritud tegutsema, annetades MIRI-le.

Kas need kaks mõistet, kindlus ja tegutsemismotiiv, on tegelikult üksteise mõjutamisel isegi omavahel seotud? Kui midagi, siis arvan, et meil võib see tagurpidi olla. Kui tahame kedagi motiveerida tegutsema, proovime veenda neid selles, et midagi on tõsi. Võib-olla on ainus asi motivatsioon tegutseda ja kui te seda aktiveerite, veenvad nad end kinnitava eelarvamuse kaudu. Kui me üritame edastada meile olulist põhjust, peaksime võib-olla proovima leida inimesi, kes on tõenäoliselt motiveeritud tegutsema, ja siis ainult veenma neid. Kui soovime, et veganlippuga lendaks rohkem inimesi, oleks võib-olla parim asi leida inimesi, kes on juba motiveeritud oma käitumist eetiliste põhjuste huvides muutma ja keskenduvad siis ainult veganiks olemise veenmisele.

Ma ei ole kindel, mis inimesi ajendab ja kui täpselt on seotud idee õigsuse kindlusega, kuid olen skeptiline, et inimeste veenmine idee õigsusest on oluline, kui meie eesmärk on mõjutada nende käitumist.