Tags: Virksomhetsarkitektur / Rådgiving

Transkript

1 Hva skjer når mennesket har oppfunnet en entitet smartere enn oss selv. Er det plass til oss, og hva skjer med oss. Har moral og etikk en plass? En analyse av mulige utfallsrom. Tags: Virksomhetsarkitektur / Rådgiving

2 Sette opp noen problemstillinger. Sortere litt. Dette er p.t. sci-fi. Men mange (teknologioptimister) mener dette vil skje. Hvilken form vil det ta? Jeg har holdt fordraget «Reisen til singulariteten» to ganger intern og en gang på JavaZone, allerede nå føles det ganske utdatert, Vi har hatt flere foredrag internt i Bouvet det siste året, tekniske, forskning og etikk. Det har vært skrevet veldig mye i dagspressene det siste året, bl.a. Aftenposten har viet dette mye redaksjonelt arbeid og spaltemeter. 8 innlegg her i dag, flere tidligere, eget prosjekt i hele Bouvet. Kjente navn Det er en verden av fantastiske muligheter vi lever i. Og nå er vi ved veis ende

3 Accelrating returns Singulariteten The end of the human area

4

5 La oss anta at singulariteten har inntruffet.

6 Hva er intelligens? Hva er bevissthet? Hva med etikk og moral?

7 Kan disse intelligente maskinene ha moral eller kan de ikke det? Vil de oss vel? Hva vil de? En problematisering av Moral og ikke moral Bevissthet Mål Overlevelse

8 Er moral en naturkraft (slik at alle må ha det) eller noe mennesket har konstruert? For å få til dette må dyret være bevisst. Skal se litt på dette spørsmålet og mulige utfallsrom, men da må vi først se på bevissthet!

9 Vi utforsker bevissthet. Bilde av menneske som stirrer på noe - seg selv. Caravaggio.

10 Vet den at den gjør det? Og hvorfor - hva er hensikten?

11 Maur er sosiale insekter, men deres adferd er mekanisk drevet.

12 Plankton - bevisst?

13 Folkelig definisjon.

14 Mer presis definisjon. Verktøy. Bevissthet er i evolusjonær forstand et verktøy som gir oss et bedre og mer nyansert bilde av virkeligheten. Det gir individet en evne til å se på seg selv, se innover og se hvordan andre individer reagerer i bestemte situasjoner. For det sosiale mennesket er det et utrolig viktig redskap.

15 Bevissthet - Har eksistert i flere menneskearter: mennesket, neandertalere, homo erectus for 1,8 mill år siden, den første menneskeapen som utvandret fra Afrika, sannsynligvis Homo Habilis (2,3 mill.år) og Australopithecus afarensis (3,9 mill.år).

16 Alle pattedyr, en endring i hjernen som oppsto da reptiler ble til pattedyr for 200 mill.år siden. Dessuten henger bevissthet uløselig sammen med hjernens størrelse og kompleksitet. Her er mennesket uovertruffent i forhold til andre dyr og også i forhold til våre tidligere forfedre.

17 Da må vi utforske mål!

18 Hva driver en maskin? Hva driver en entitet?

19 Kampen for tilværelsen, hva er målene? Beskytte seg. Mat og drikke. Formere seg. Overordnet for alle levende organismer. Definisjonen i evolusjonen er evne til å tilpasse seg, og i dette manipulere omgivelsene.

20

21

22 Det ligger noen forutsetninger her Mekanistisk eller realistisk (baset på realfag) syn på hvordan levende organismer fungerer. Dersom ikke, så er det vel noe større krefter (mystiske, naturlig eller guddommelige) som styrer dette uansett

23 Sier noe om mulige utfallsrom, men ikke sannsynlighet.

24 Kjent fenomen. Populasjonsvekst.

25

26

27 Hva har vi ansvaret for? Som bevisste og moralske vesener

28 ASI hjelper oss til bedre liv.

29 Vi integreres og øker våre evner.

30 Får hjelp til miljøproblemene.

31 Utrydder sult og fattigdom.

32 Utrydder alle alvorlige sykdommer.

33 ASI bruker oss til eget formål.

34 Matrix-scenariet

35 ASI utrydder oss som en trussel.

36 Terminator-scenariet.

37 ASI bryr seg ikke om oss. Dette merker vi ingenting til. Vi er blitt maur - får stort sett være i fred.

38 Menneskets dominans startet den dagen våre forfedre plukket opp stein og trepinner og laget verktøy.

39 Kanskje den ender opp med at vi som en overlevende art, men en blindvei i evolusjonen?