Det är Jan Eriksson som inspirerade mig att skriva om moral. Men medan han bygger sina resonemang på erfarenhet, litteratur och utbildning bygger jag mina på absolut ingenting alls.
För mig är utilitarism det mest intressanta moraliska ramverket då jag tror att alla agenters beteende går att beskriva som om de maximerade nyttofunktioner, låt vara att dessa funktioner kan vara väldigt invecklade. Nytta är starkt kopplat till värderingar, men jag vill här försöka skilja de två begreppen åt. Värderingar för mig är någonting enklare och lättare att beskriva, medans nyttofunktionen potentiellt snabbt kan ändra struktur från stund till stund baserat på värderingar och bedömning av risk. För de som är bekanta med reinforcement learning och Bellmans ekvation, försöker jag säga är att jag med nyttofunktion ungefär avser medans jag med värderingar ungefär avser .
Vad jag åsyftar med moral är just sambandet mellan värderingar och nytta. Detta samband blir dock som mest intressant först när följderna av våra handling är osäkra och vi måste börja hitta sätt att väga risker mot potentiell nytta. Det är jämförelsevis enklare att diskutera hur man skulle handla i en viss situation med komplett vetskap om konsekvenserna av varje alternativ då Bellmans ekvation ger ett uppenbart exempel på en rimlig koppling mellan värderingar och nytta. Ta till exempel det klassiska spårvagnsproblemet. Denna typ av fråga är enligt mig inte så intressant ur ett moralperspektiv då det är rimligt att direkt applicera t.ex. Bellmans equation på en persons värderingar för att veta hur denne skulle agera. (Personligen sätter jag inte värde vid huruvida jag har vidrört spaken eller ej, och skulle därför välja att se fem personer leva jämfört med bara en.)
De intressanta moraliska frågorna handlar enligt mig istället om hur man väljer att hantera osäkerheten i potentiella utfallet av olika val. Ska vi till exempel försöka maximera väntevärdet av nyttan? Denna metod kan dock leda till risktagande, då vi blir beredda att satsa mycket på en handling som med mycket liten sannolikhet ger ett extremt bra utfall jämfört med en handling som med säkerhet ger ett mediokert utfall, o.s.v.
En annan aspekt är huruvida sättet som världen nådde ett visst tillstånd bör spela in i vår tilldelning av nytta till tillståndet. Man kan argumentera för att en ren nyttofunktion inte tar hänsyn till historien, så att vi inte skiljer två val men samma slutresultat, men där det ena t.ex. involverar tortyr av oskyldiga människor medan det andra inte gör det. Om ingen minns tortyren, spelar det då någon roll att den hände? På samma sätt om vi tror oss minnas tortyren, spelar det då någon roll att den inte hände? Rent abstrakt tycker jag att svaret på dessa frågor borde vara nej, men och tror man på T-symmetri eller no-hiding-teoremet blir det kanske tack och lov en icke-fråga.
Här dock om inte förr borde jag sluta, då jag är ute på vatten som är okänt för mig men som redan utförligt utforskats av allt från naturvetare till filosofer. Den enda slutsatsen jag vågar dra är att jag nog passar bättre som matematiker än psykolog.