In het kort, enkele logische vormen van redenaties. Ook leuk in mijn conversatie met een AI.
Ik neem eerst het voor sommige wel bekende 'Trolley Experiment' // ofwel probleem. De kortste uitleg is reeds de tekening hieronder:
Het trolleyprobleem in een plaatje: de tram staat op het punt rechtdoor te gaan en een stel mensen te doden. De wissel omzetten doet een ander omkomen. Wat moet degene bij de wissel doen? (Link Wiki.)
Het trolleyprobleem is een gedachte-experiment door Philippa Foot in 1967. Feitelijk is het een wrede voorstelling, omdat het de keus laat uit úitsluitend twee kwaden. Alleen om die reden is het 'probleem' aan de basis al ongeldig. In de praktijk zal het nooit voorkomen.
Het legt de claim op, hebben meer mensen, meer waarde, dan één enkel mens? Hoe laat je daar dus je ethiek op los?
Het legt de claim op, hebben meer mensen, meer waarde, dan één enkel mens? Hoe laat je daar dus je ethiek op los?
Wezenlijk is de waarde van de mens één waarde. Het gaat er dan niet om, of de ene mens ingenieur is of in de politiek zit, of medewerker in een winkel is. Het gaat om de elementaire waarde van de 'mens'. Een is dan evenveel als meer of velen.
Her experiment is zo opgezet, dat je in beide gevallen een keus moet doen die levens kost. Daarom is het ongeldig te noemen. Zou het spoor een derde schakel hebben of splitsing, op wiens spoor niemand gevaar loopt, dan zou eenieder zonder twijfel kiezen voor dát spoor: Behalve een psychopaat.
De resterende vraag blijft dus, één of meer slachtoffers. De tram bezit blijkbaar ook geen noodrem..
Nu het andere geval: Je geeft een superintelligente AI de opdracht, om de globale wereld te verkennen op alle oorzaken, van een mogelijke ecologische catastrofe voor de wereld als zodanig.
De AI komt onvermijdelijk tot de slotsom, dat de wereld dramatisch wordt verstoord door alles wat de mens doet. Door zijn economie, zijn industrialisering, alle oorzaken van de materiële wereldvervuiling, en door de wereld compleet te verstoren met het wegzagen van alle wouden, de diepgaande verstoring in de natuur en als gevolg ook het dierenleven. AI komt tot de slotsom dat de mens de voornaamste en mogelijke zelfs al-enige veroorzaker is van een komende ecologische ineenstorting.
Nu verander je ietwat de opdracht aan AI: Je geeft AI opdracht om de wereld ecologisch te redden. De AI was al gekomen tot eerdere slotsom.
Daaruit volgt de enige uitkomst, die hij in zijn superintelligentie kan bedenken: De mens moet verdwijnen.
Omdat deze 'uitkomst' nogal onwenselijk is, voor de mens, zou je voor een ander optie kunnen kiezen:
Je stelt ten eerste: Al het leven op de planeet Aarde is deel van de aarde, inclusief de mens. Het afscheiden van de mens, van al het leven op aarde, is feitelijk irreëel.
Ondanks alles wat de mens deed en doet, in de destructie van de planeet, is en blijft de mens een absoluut onderdeel van 'al het leven' op de planeet.
De mens staat niet los, noch tegenover het andere leven, zij het de natuur en dierenwereld, zij het de oceanen en de gehele fysieke wereld, waarin alles bestaat.
De mens heeft zichzelf eigenlijk in hoge mate afgescheiden van de overige planeet, door zijn hoofdzakelijk egocentrische belangen. Maar hij blijft, hoe je het ook tegenover elkaar tracht te zetten, een 'kind van de moeder aarde'.
Nu geef je de AI de opdracht om de aarde ecologisch te redden. (In zijn algehele creatie,
die de mens ónmogelijk uitsluit.)
De opdracht is opeens stukken en stukken gecompliceerder, om uit te kunnen voeren.
AI zal hooguit nog kunnen vragen of tegenwerpen:
Hoe zit het met 'Mij' - de superintelligentie?
--- 🐋---
Geen opmerkingen:
Een reactie posten