Algoritmer træffer allerede beslutninger for mennesker, og det bliver mærkeligt

(Yuri Parmenov/iStock)

Jeg kan stadig huske min overraskelse, da en bog af evolutionsbiolog Peter Lawrence med titlen Fremstillingen af ​​en flue kom til at blive prissat på Amazon til .698.655.93 (plus ,99 forsendelse).

Mens mine kolleger rundt om i verden må være blevet temmelig deprimerede over, at en akademisk bog kunne opnå en sådan bedrift, var den høje pris faktisk resultatet af algoritmer, der nærede sig hinanden og kom ud af kontrol. Det viser sig, at det ikke kun var sælgerne, der var kreative: Algoritmerne stod bag.

Dette iøjnefaldende eksempel blev opdaget og rettet. Men hvad nu hvis sådan algoritmisk interferens sker hele tiden, også på måder, vi ikke engang bemærker? Hvis vores virkelighed i stigende grad bliver konstrueret af algoritmer, hvor efterlader det så os mennesker?



Inspireret af sådanne eksempler, min kollega Prof Allen Lee og jeg har for nylig sat mig for at udforske de dybere virkninger af algoritmisk teknologi i et papir i Tidsskrift for Foreningen for Informationssystemer .

Vores udforskning førte os til den konklusion, at informationsteknologiens og menneskers roller over tid er blevet omvendt. Tidligere brugte vi mennesker teknologi som et værktøj. Nu er teknologien avanceret til det punkt, hvor den bruger og endda kontrollerer os.

Vi mennesker er ikke blot afskåret fra de beslutninger, som maskiner træffer for os, men dybt påvirket af dem på uforudsigelige måder. I stedet for at være centrale i det system af beslutninger, der påvirker os, bliver vi kastet ud i dets omgivelser.

Vi har gradvist begrænset vores egen beslutningskapacitet og tilladt algoritmer at tage over. Vi er blevet kunstige mennesker, eller menneskelige artefakter, som er skabt, formet og brugt af teknologien.

Der er masser af eksempler. Sviger, juridiske analytikere bliver gradvist udskiftet ved kunstig intelligens , hvilket betyder, at forsvaret eller retsforfølgningen af ​​en sag delvist kan stole på algoritmer.

Software har endda fået lov til det forudsige fremtidige kriminelle , der i sidste ende kontrollerer menneskelig frihed ved at forme, hvordan prøveløsladelse nægtes eller gives til fanger. På denne måde bliver dommernes sind formet af beslutningsmekanismer, som de ikke kan forstå på grund af, hvor kompleks processen er, og hvor meget data den involverer.

På arbejdsmarkedet har overdreven afhængighed af teknologi ført til nogle af verdens største virksomheder at filtrere CV'er gennem software , hvilket betyder, at menneskelige rekrutterere aldrig vil kigge på nogle potentielle kandidaters detaljer. Dette sætter ikke kun folks levebrød overgivet til maskinerne, det kan også bygge på ansættelsesfordomme, som virksomheden ikke havde lyst til at implementere, som sket med Amazon .

I nyhederne, hvad der er kendt som automatiseret følelsesanalyse analyserer positive og negative meninger om virksomheder baseret på forskellige webkilder. Til gengæld bliver disse brugt af handelsalgoritmer, der træffer automatiserede økonomiske beslutninger, uden at mennesker faktisk behøver at læse nyhederne.

Utilsigtede konsekvenser

Faktisk spiller algoritmer, der fungerer uden menneskelig indgriben, nu en væsentlig rolle på de finansielle markeder. For eksempel, 85 procent af al handel på valutamarkederne udføres af algoritmer alene.

Den voksende algoritmisk våbenkapløb at udvikle stadigt mere komplekse systemer til at konkurrere på disse markeder betyder, at enorme summer bliver tildelt i henhold til maskinernes beslutninger.

I lille skala er de mennesker og virksomheder, der skaber disse algoritmer, i stand til at påvirke, hvad de gør, og hvordan de gør det.

Men fordi meget af kunstig intelligens involverer programmering af software til at finde ud af, hvordan man udfører en opgave af sig selv, ved det ikke præcis hvad der ligger bag beslutningstagningen. Som med al teknologi kan dette føre til utilsigtede konsekvenser, der kan gå langt ud over alt, hvad designerne nogensinde havde forestillet sig.

Tag 2010 'Flash Crash' af Dow Jones Industrial Average Index. Algoritmernes handling var med til at skabe indeksets største enkeltfald i dets historie, tørrer næsten 9 pct af sin værdi i minutter (selvom den genvandt det meste af dette ved udgangen af ​​dagen). EN fem måneders undersøgelse kunne kun foreslå, hvad der udløste nedturen (og forskellige andre teorier er blevet foreslået ).

Men algoritmerne, der forstærkede de indledende problemer, lavede ikke en fejl. Der var ikke en fejl i programmeringen. Adfærden opstod fra interaktionen mellem millioner af algoritmiske beslutninger, der spillede ud af hinanden på uforudsigelige måder, efter deres egen logik på en måde, der skabte en nedadgående spiral for markedet.

De forhold, der gjorde dette muligt, opstod, fordi de mennesker, der driver handelssystemet, gennem årene var kommet til at se menneskelige beslutninger som en hindring for markedseffektivitet. Tilbage i 1987, da det amerikanske aktiemarked faldt med 22,61 procent, holdt nogle Wall Street-mæglere simpelthen op med at tage deres telefoner for at undgå at modtage deres kunders ordrer om at sælge aktier.

Dette startede en proces, som forfatter Michael Lewis udtrykte det i sin bog Flash drenge , 'er endt med, at computere helt har erstattet folket'.

Finansverdenen har investeret millioner i superhurtige kabler og mikrobølge kommunikation at barbere blot millisekunder fra den hastighed, hvormed algoritmer kan transmittere deres instruktioner. Når hastigheden er så vigtig, er et menneske, der kræver enorme 215 millisekunder for at klikke på en knap, næsten helt overflødigt.

Vores eneste tilbageværende formål er at omkonfigurere algoritmerne, hver gang systemet med teknologiske beslutninger fejler.

Efterhånden som nye grænser bliver skåret mellem mennesker og teknologi, er vi nødt til at tænke grundigt over, hvor vores ekstreme afhængighed af software fører os hen. Da menneskelige beslutninger erstattes af algoritmiske beslutninger, og vi bliver værktøjer, hvis liv er formet af maskiner og deres utilsigtede konsekvenser, sætter vi os selv op til teknologisk dominans.

Vi skal beslutte, mens vi stadig kan, hvad det betyder for os både som individer og som samfund.

Dionysios Demetis , underviser i ledelsessystemer, Universitetet i Hull .

Denne artikel er genudgivet fra Samtalen under en Creative Commons-licens. Læs original artikel .

Meninger udtrykt i denne artikel afspejler ikke nødvendigvis Energyeffic-redaktionens synspunkter.

Populære Kategorier: Sundhed , Samfund , Plads , Mening , Natur , Ukategoriseret , Mennesker , Tech , Miljø , Fysik ,

Om Os

Offentliggørelse Af Uafhængige, Beviste Fakta Om Rapporter Om Sundhed, Rum, Natur, Teknologi Og Miljøet.