Begrense din forbannelse Hvordan misbruker din AI-enhet kan koste deg din jobb

Har du noen gang forbannet på Siri, Alexa eller Google for å ikke forstå ordene dine? Du er ikke alene. Vi kan være skyldig i å lobbing en fornærmelse eller to. La oss innse det: Amazon Echo's Alexa er dumt. La oss innse det. Amazon Echo's Alexa er dumt Det er ingen tvil om stemmekontrollerte assistenter er fremtiden, men er Alexa løsningen? Kanskje ikke. I denne artikkelen skal jeg argumentere for at Alexa er faktisk ganske dumt. Les mer selv.

Men vi bør alle være forsiktige.

Selv om det ikke er en egentlig person i den andre enden av fornærmelsen din, svinger de heller ikke ordene i tomrummet heller. Våre tankeløse barbs blir overført over nettet til fjerntliggende servere. Hvordan vi behandler digitale personlige assistenter kan lære dem det verste av menneskeheten, og det kan føre til at noen selskaper ser på noen av oss som for uhørte å ansette.

Som det viser seg, er det kanskje ikke så uskadelig det vi kan tenke på som ufarlig skam.

De lærer fra oss

Siri slo scenen i 2011, etterfulgt av Google Nå et år senere. I 2014 hadde Microsoft Cortana. I samme år stakk Amazon en AI som heter Alexa i et plastrør som folk kunne gå på sine benkeplater. Google og Apple har siden gjort det samme. Tekniske giganter søker raskt måter å forandre kunstig intelligens til forbruker-klare produkter Amazon Echo vs Google Home vs. Apple HomePod Amazon Echo vs. Google Home vs. Apple HomePod I denne artikkelen lærer du forskjellene mellom Amazon Echo og Google Hjem. Vi vil også se på hvilke funksjoner en Apple-høyttaler kan inkludere. Les mer .

Disse digitale personlige assistentene kan virke modne. De kan til og med ha øyeblikk som gleder oss Amazon Alexa sa hva? 15 morsomme spørsmål du kan spørre din ekko Amazon Alexa sa hva? 15 morsomme spørsmål du kan spørre ekko Ønsker du å ha det gøy med Alexa? Prøv å spørre disse 15 spørsmålene for en rekke dumme og morsomme svar. Les mer . Men de er ungdommer. De er svært litterære småbarn, og de lærer aktivt fra informasjonen vi gir dem. Det er også selskapene som lager dem.

Teamet bak Siri jobber med Viv (nå eid av Samsung), en digital assistent som integreres med tredjeparts tjenester som Weather Underground og Uber for å gi høyttalere med mer detaljerte svar. Onstage demonstrasjoner viser at Viv svarer på de slags spørsmål vi spør andre, ikke det språket vi skredder på for å forstå maskiner. Dette er resultatet av å lære av hvordan folk bruker språk.

Digitale personlige assistenter er ikke hva de fleste av oss forestiller seg når vi viser kunstig intelligens. I motsetning til ELIZA, et dataprogram fra 1960-tallet som simulerer naturlig språk (du kan prøve å snakke med det på nettet), gjør disse AIene ikke mye “tenker” for dem selv. Det arbeidet er alt avlastet over internett.

Det er flere trinn til prosessen.

Den første komponenten er talegjenkjenning. Enheten laster opp et direkte opptak eller oversetter ordene til tekst som den kan sende til eksterne servere (Apples, Googles, Amazonas, hvem som helst). Det er der magien skjer. Eller rettere, søker programvare etter en database for en passende respons. Den skyver deretter denne informasjonen tilbake til den personlige assistenten.

Kort sagt: noen spør deg et spørsmål, du spør Siri, og Siri spør Apple-servere. Serverne gir Siri et svar, hun reagerer tilbake til deg, og du er enten glad eller venstre å håndtere hvordan du skal håndtere din skuffelse. Siri, hvorfor forstår du meg ikke? [INFOGRAFISK] Siri, hvorfor forstår du meg ikke? [INFOGRAFISK] En av de beste tingene med en iPhone 4S er Siri-talegjenkjenningsappa, men som jeg har stadig lagt merke til, ser det ikke ut som jeg og min skotske aksent (cue mange øyeblikk ... Les mer .

Disse databasene inneholder ikke bare svar. Noen lagringsopptak som hjelper datamaskinen til å navigere i de mange nyansene i våre forskjellige dialekter. Denne informasjonen er ikke bare for å hjelpe bots å forstå oss. Facebook har brukt tusenvis av naturlige språkforhandlinger mellom to personer for å lære Messenger chatbots hvordan å forhandle.

Setter vi et bra eksempel på?

Disse er neppe de eneste AIene som lærer fra måten vi snakker om.

I fjor lanserte Microsoft en chat bot på Twitter, Kik og GroupMe med det formål å simulere en amerikansk tenåringspike. Innen noen få timer, “Tay” var enig med Hitler og anspore all form for offensiv retorikk. Microsoft trakk Tay offline før dagen var oppe.

Mens Tay var en feil, har det ikke bremset spredning av chatbots. Du kan finne dem i sosiale nettverk som Facebook og Snapchat, sammen med messaging-klienter som HipChat og Slack. Noen er rundt for samtale. Andre kobler deg til tjenester. Noen av disse bots er sikrere fordi de ikke Prøv å etterligne naturlig samtale, for nå er det ikke nødvendigvis bra for maskiner å etterligne måten vi snakker på.

Vi presiserer ikke akkurat det beste eksemplet for bots å lære av. Missouri State University College professor Sheryl Brahnam gjennomførte en undersøkelse som konkluderte med at 10 til 50 prosent av interaksjonene som ble studert, viste at mennesker er fornærmende eller på annen måte betyr for datamaskinsassistenter (hvorav digitale personlige assistenter er bare en type). Det er et forstyrrende stort antall. Noen foreldre føler seg skyldige i å uttale et eneste dårlig ord foran barna sine. Det er langt fra halv av deres interaksjoner er negative.

De Facebook Messenger chatbots jeg nevnte tidligere? Ikke bare lærte de å forhandle ved å studere naturlig språk, de lærte også å lyve.

Din fremtidige arbeidsgiver kunne se på

Vi kunne nå et punkt i fremtiden hvor hvordan vi kommuniserer med bots kan koste oss vår jobb. Ifølge Harvard Business Review kan dette skiftet skje når vi går fra å se en mishandlet bot som en ødelagt mobiltelefon og mer som en sparket kattunge. Å være respektløst for en bedrift bot kunne potensielt få deg sparken.

Dette betyr ikke at ansatte eller arbeidsgivere vil begynne å se bots som søte levende enheter. Imidlertid kan de være sentient nok til å mishandle dem til å virke uprofesjonell og kontraproduktiv. Hvis du er en leder, kan misbruk av AI få deg til å ringe før HR for dårlig ledelse.

Lyder dette for hypotetisk? Tenk på hva vi allerede vet skjer. Alt vi skriver eller sier til disse assistentene, sendes over internett, og vi vet egentlig ikke hva som skjer med det etterpå. Mye av den informasjonen er logget. Selv om denne informasjonen ikke alltid er knyttet til kontoen din, er den fortsatt lagret.

Google er teknisk gjennomsiktig om dette, men det gjør det ikke klart. Denne typen hvis datainnsamling strekker seg til definisjonen av å ha en persons samtykke før du registrerer dem.

Det samles inn data kan virke harmløse nå, men det er ingenting å stoppe tech giants fra slutt å sette sammen detaljerte porteføljer på hver av oss som fremtidige arbeidsgivere, banker og andre enheter kan sjekke før du engasjerer oss, mye som en kreditt rapport.

Lovhåndhevelse ser også

I en sak som involverte en Arkansas mann som ble anklaget for å drepe sin venn (en tidligere politibetjent), prøvde aktor å bruke opptak fra et Amazon Echo som bevis. Amazon nektet forespørselen, men det er bare delvis trøstende. Det som er unnerving er at Amazon har lagret data i utgangspunktet. Den mistenkte har siden gitt tilgang til disse dataene.

Jeg nevnte at selskapene kunne sjekk våre dataposter før vi samhandler med oss. I tilfelle av rettshåndhevelse har de allerede øynene på denne informasjonen. Har NSA virkelig behov for å samle inn dataene selv NSA lagrer sine data i skyen. Men er det sikkert? NSA lagrer sine data i skyen. Men er det sikkert? I kjølvannet av Edward Snowden lekkasjen vender National Security Agency (NSA) til skylagring for sine data. Etter at de har samlet informasjon om deg, hvor sikker vil det være? Les mer om det kan stole på den private sektoren for å samle inn denne informasjonen for dem? Skal vi stole på noen med så mye data på hver av oss?

Inkludert i dataene er ikke bare det vi har søkt etter eller kommandoene vi har utstedt, men hvordan vi gjorde det. Vi gir ikke bare innsikt i våre interesser og handlinger - vi gir andre en titt på hvordan vi handler. Det som skjer mellom deg og Alexa forblir ikke mellom deg og Alexa.

Hva vi sier saken

Mens Tay måtte gå inn i timeout, fant Microsoft overveldende suksess med en annen bot. Det heter Xiaoice. I Kina og Japan har den botvirket interaksjon med over 40 millioner mennesker. At Xiaoice ikke har selvdestrudert, skyldes delvis forskjell i kultur. I Kina er visse typer tale ikke tillatt online.

Nå har botsene begynt å gjøre politiene selv. Sosiale nettverk begynner å bruke bots for å begrense hatespråket. Vi kan ikke snakke direkte med disse bots, men de studerer fortsatt talen vår for å lære hva som kvalifiserer som misbruk.

Uansett hvordan du nærmer deg problemet, hva vi sier og hvordan vi sier det betyr noe. Botsene, og selskapene som lager dem, lytter. I dag kan våre arbeidsgivere bli med i dem. Og hvis datamaskiner var å erstatte oss i fremtiden, vil vi ikke at de skal være hyggelige?

Hvordan reagerer du når digitale personlige assistenter mislykkes? Behandler du dem som om de har følelser? Bryr du deg om noen holder tabs på hva du sier? Hva ser du som ansvarlig vei fremover? Et menneske vil holde øye med dine kommentarer nedenfor.

Bildekreditt: deagreez1 / Depositphotos

Utforsk mer om: Alexa, Artificial Intelligence, Google Assistant, Microsoft Cortana, Siri.