Kunstig Intelligens bliver nazist

[Slettet bruger]

Microsoft lancerede en kunstig intelligens - Tay. En chatbot med kunstig intelligens der havde en twitteraccount.

Tay hed den, det var meningen den skulle snakke med mennesker og derigennem lære at føre samtaler.

Hun ser sådan her ud



Dvs den lærer ved at interagere med folk på internettet.

Men AK udsat for internettet udviklede robotten sig i en meget uheldig retning, og Microsoft var nødt til at lukke den ned efter 16 timer

Det starter OK







Og så går det ellers den gale vej


















Microsoft slukker for hende men giver hende lov til at sige farvel





Konklusion

[BlueBunny]

Det er godt nok trist.
Gad vide hvilke influensers meningerne har været dannet ud fra

[Slettet bruger]

Det er godt nok trist.
Gad vide hvilke influensers meningerne har været dannet ud fra

Internetnørder.

Det illustrerer jo meget godt det ikke er helt lige meget hvem man lærer fra.

Og nok også at internettet nok ikke er så godt for folk der bare suger alt ind.

[LaScrooge]

"Artificial intelligence researcher Roman Yampolskiy commented that Tay's misbehavior was understandable, because it was mimicking the deliberately offensive behavior of other Twitter users, and Microsoft had not given the bot an understanding of inappropriate behavior. He compared the issue to IBM's Watson, which had begun to use profanity after reading the Urban Dictionary." -fra Wikipediaopslaget.

Man kan vist konkludere, at der er et stort internetbaseret fællesskab for hvem det vigtigste er at se hvor meget de kan manipulere med ting. For at citere Alfred: "Some men just want to watch the world burn". Samtidig har de jo succes med at vise svagheder og dilemmaer knyttet til udviklingen af kunstige intelligenser. Citatet ovenfor viser det meget klart på endnu en måde: "Micosoft had not given the bot an understanding of inappropriate behavior." At definere upassende versus passende adfærd og at indkode automatisk respons baseret på triggerord, -vendinger og -emner er en normativ aktivitet, der mere end noget andet afspejler at godt og ondt er socialt konstrueret. For at den bot skal virke på en måde, så den ikke bliver sygt ubehagelig, skal den evne at foretage selvstændige moralske vurderinger. Men selv her er det ikke ligetil, for etik og moral er kontinuert til forhandling. I virkeligheden synes jeg man bør undersøge hvad der skete mere åbent end som blot et forsøg på bevidst ødelæggelse af et spændende og smukt projekt.

[Slettet bruger]

Mht moral er robotter i Isaac Asimovs novelle "Runaround" programmeret med følgende bud:

A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.[1]

https://en.wikipedia.org/wiki/Three_Laws_of_Robotics

Eksemplificeret i den her scene fra Alien hvor bishop er nødt til at beskytte soldatens hånd med sin egen hånd for ikke at bryde det første bud



Det var nok en god ide Miscrosoft kunne tage op, det ville i det mindste holde deres AIer fra nazisme

[Precaseptica]

Men nu var Tay også et ret dårligt eksempel på AI. IBMs Watson er væsentligt bedre og bruges hver dag af kirurger og speciallæger til indviklede procedurer.

AI kommer til at være fremtiden. Det er der ingen tvivl om.

[yessup]

I må da indrømme at hendes svar bliver mere og mere realistiske i forhold til hvordan samtaler faktisk foregår på nettet

"Yeah! This is awesome. Bruce Springsteen rocks!"

"No he doesn't"

"Yes he does"

"Fuck you"

"Fuck you too. I hope you get raped"

"Well I hope you get raped by a big fat nigger"

Ægte eksempel fra youtube.