Kunstig Intelligens bliver nazist

Brugeravatar
eks-Maupassant
Indlæg: 3156
Tilmeldt: 28. dec 2015, 18:52
Kort karma: 140
Likede indlæg: 2079

Kunstig Intelligens bliver nazist

Indlægaf eks-Maupassant » 25. mar 2016, 10:37

Microsoft lancerede en kunstig intelligens - Tay. En chatbot med kunstig intelligens der havde en twitteraccount.

Tay hed den, det var meningen den skulle snakke med mennesker og derigennem lære at føre samtaler.

Hun ser sådan her ud

Billede

Dvs den lærer ved at interagere med folk på internettet.

Men AK udsat for internettet udviklede robotten sig i en meget uheldig retning, og Microsoft var nødt til at lukke den ned efter 16 timer

Det starter OK

Billede

Billede

Billede

Og så går det ellers den gale vej

Billede

Billede

Billede

Billede

Billede

Billede



Billede


Microsoft slukker for hende men giver hende lov til at sige farvel


Billede


Konklusion


Billede
Senest rettet af eks-Maupassant 25. mar 2016, 10:43, rettet i alt 1 gang.
1
Brugeravatar
BlueBunny
Indlæg: 478
Tilmeldt: 17. aug 2015, 16:54
Kort karma: 40
Likede indlæg: 749

Re: Kunstig Intelligens bliver nazist

Indlægaf BlueBunny » 25. mar 2016, 10:42

Det er godt nok trist.
Gad vide hvilke influensers meningerne har været dannet ud fra
1
Brugeravatar
eks-Maupassant
Indlæg: 3156
Tilmeldt: 28. dec 2015, 18:52
Kort karma: 140
Likede indlæg: 2079

Re: Kunstig Intelligens bliver nazist

Indlægaf eks-Maupassant » 25. mar 2016, 10:49

BlueBunny skrev:Det er godt nok trist.
Gad vide hvilke influensers meningerne har været dannet ud fra


Internetnørder.

Det illustrerer jo meget godt det ikke er helt lige meget hvem man lærer fra.

Og nok også at internettet nok ikke er så godt for folk der bare suger alt ind.
4
LaScrooge
Indlæg: 1247
Tilmeldt: 9. okt 2015, 08:59
Kort karma: 322
Likede indlæg: 2554

Re: Kunstig Intelligens bliver nazist

Indlægaf LaScrooge » 25. mar 2016, 11:21

"Artificial intelligence researcher Roman Yampolskiy commented that Tay's misbehavior was understandable, because it was mimicking the deliberately offensive behavior of other Twitter users, and Microsoft had not given the bot an understanding of inappropriate behavior. He compared the issue to IBM's Watson, which had begun to use profanity after reading the Urban Dictionary." -fra Wikipediaopslaget.

Man kan vist konkludere, at der er et stort internetbaseret fællesskab for hvem det vigtigste er at se hvor meget de kan manipulere med ting. For at citere Alfred: "Some men just want to watch the world burn". Samtidig har de jo succes med at vise svagheder og dilemmaer knyttet til udviklingen af kunstige intelligenser. Citatet ovenfor viser det meget klart på endnu en måde: "Micosoft had not given the bot an understanding of inappropriate behavior." At definere upassende versus passende adfærd og at indkode automatisk respons baseret på triggerord, -vendinger og -emner er en normativ aktivitet, der mere end noget andet afspejler at godt og ondt er socialt konstrueret. For at den bot skal virke på en måde, så den ikke bliver sygt ubehagelig, skal den evne at foretage selvstændige moralske vurderinger. Men selv her er det ikke ligetil, for etik og moral er kontinuert til forhandling. I virkeligheden synes jeg man bør undersøge hvad der skete mere åbent end som blot et forsøg på bevidst ødelæggelse af et spændende og smukt projekt.
2
Brugeravatar
eks-Maupassant
Indlæg: 3156
Tilmeldt: 28. dec 2015, 18:52
Kort karma: 140
Likede indlæg: 2079

Re: Kunstig Intelligens bliver nazist

Indlægaf eks-Maupassant » 2. apr 2016, 19:41

Mht moral er robotter i Isaac Asimovs novelle "Runaround" programmeret med følgende bud:

A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.[1]

https://en.wikipedia.org/wiki/Three_Laws_of_Robotics

Eksemplificeret i den her scene fra Alien hvor bishop er nødt til at beskytte soldatens hånd med sin egen hånd for ikke at bryde det første bud



Det var nok en god ide Miscrosoft kunne tage op, det ville i det mindste holde deres AIer fra nazisme :)
1
Brugeravatar
Precaseptica
Indlæg: 437
Tilmeldt: 27. aug 2015, 10:07
Kort karma: 74
Likede indlæg: 655

Re: Kunstig Intelligens bliver nazist

Indlægaf Precaseptica » 25. maj 2016, 10:54

Men nu var Tay også et ret dårligt eksempel på AI. IBMs Watson er væsentligt bedre og bruges hver dag af kirurger og speciallæger til indviklede procedurer.

AI kommer til at være fremtiden. Det er der ingen tvivl om.
0
yessup
Indlæg: 37
Tilmeldt: 15. maj 2016, 14:36
Kort karma: 0
Likede indlæg: 16

Re: Kunstig Intelligens bliver nazist

Indlægaf yessup » 28. maj 2016, 21:50

I må da indrømme at hendes svar bliver mere og mere realistiske i forhold til hvordan samtaler faktisk foregår på nettet :D

"Yeah! This is awesome. Bruce Springsteen rocks!"

"No he doesn't"

"Yes he does"

"Fuck you"

"Fuck you too. I hope you get raped"

"Well I hope you get raped by a big fat nigger"

Ægte eksempel fra youtube.
1

Tilbage til "Videnskab og teknologi"