Tėvų patarimai: „dirbtinis intelektas“, naudojamas vertinant aukles pagal jų socialinės žiniasklaidos istoriją
Kai Jessie Battaglia savo vienerių metų sūnui pradėjo ieškoti naujo auklės, ji norėjo daugiau informacijos, nei ji galėjo gauti iš baudžiamojo patikrinimo, tėvų komentarų ir tiesioginio pokalbio.
Taigi ji kreipėsi į „Predictim“, internetinę paslaugą, kuri naudoja „pažangią dirbtinę intelektą“, kad įvertintų auklėtojo asmenybę, ir nukreipė skenerius į vieną kandidato tūkstančius „Facebook“, „Twitter“ ir „Instagram“ pranešimų.
Sistema pasiūlė automatizuotą 24 metų kandidato „rizikos reitingą“, sakydama, kad ji yra „labai maža rizika“ būti narkotikų vartotojas. Tačiau jis davė šiek tiek didesnį rizikos vertinimą - du iš penkių - dėl patyčių, priekabiavimo, „nepagarbaus“ ir „blogo požiūrio“.
Sistema nepaaiškino, kodėl ji priėmė šį sprendimą. Bet Battaglia, kuris tikėjo, kad auklė buvo patikima, staiga pajuto abejones.
„Socialinė žiniasklaida rodo asmens charakterį“, - sakė 29-asis Battaglia, gyvenantis netoli Los Andželo. "Kodėl ji atėjo į du ir ne vieną?"
Predictim siūlo tėvams tą pačią knygą, kad dešimtys kitų technologijų firmų parduoda darbdaviams visame pasaulyje: dirbtinės žvalgybos sistemos, kurios analizuoja žmogaus kalbą, veido išraiškas ir internetinę istoriją su pažadais atskleisti paslėptus jų asmeninio gyvenimo aspektus.
Ši technologija pertvarko, kaip kai kurios įmonės įdarbina, samdo ir peržiūri darbuotojus, siūlo darbdaviams neprilygstamą darbo kandidatų išvaizdą per naują invazinės psichologinio vertinimo ir stebėjimo bangą.
Technologinė įmonė „Fama“ teigia, kad ji naudoja AI policijos darbuotojų socialinės žiniasklaidos priemonėms „nuodingam elgesiui“ ir įspėja savo viršininkus. Ir įdarbinimo technologijų įmonė „HireVue“, kuri dirba su tokiomis kompanijomis kaip „Geico“, „Hilton“ ir „Unilever“, siūlo sistemą, kuri automatiškai analizuoja pareiškėjų tonusą, žodžio pasirinkimą ir veido judesius vaizdo pokalbių metu, kad būtų galima prognozuoti savo įgūdžius ir elgesį darbe. (Kandidatai raginami šypsotis dėl geriausių rezultatų.)
Tačiau kritikai teigia, kad „Predictim“ ir panašios sistemos pateikia savo pavojus, nes automatiniai ir galbūt gyvenimą pakeičiantys sprendimai beveik nekontroliuojami.
Sistemos priklauso nuo juodųjų dėžių algoritmų, kurie suteikia mažai informacijos apie tai, kaip jie sumažino asmens vidinio gyvenimo sudėtingumą dėl dorybės ar žalos skaičiavimo. Ir net jei „Predictim“ technologija daro įtaką tėvų mąstymui, ji lieka visiškai neįrodyta, didžiąja dalimi nepaaiškinama ir pažeidžiama tyliems šališkumui, kaip tinkamas auklėtojas turėtų dalintis, atrodyti ir kalbėti.
Yra „beprotiškas skubėti užimti AI galią, kad galėtumėte priimti įvairius sprendimus, neužtikrindamas, kad jis būtų atskaitingas žmonėms“, - sakė „Jeff Chester“, skaitmeninės demokratijos centro vykdomasis direktorius. „Tai lyg žmonės, kurie girtas skaitmeninės„ Kool “pagalbos ir mano, kad tai tinkamas būdas valdyti mūsų gyvenimą.“
Predictimo nuskaitymai analizuoja visą vaikų auklėtojo socialinės žiniasklaidos istoriją, kuri daugeliui jauniausių žmonių gali užimti didžiąją dalį savo gyvenimo. Ir sitters sako, kad jie bus labai nepalankūs konkurenciniams darbams, jei jie atsisakys.
„Predictim“ vyriausiasis ir įkūrėjas „Sal Parsa“ sakė, kad praėjusį mėnesį „Berkeley“ „SkyDeck tech inkubatoriuje“ įsteigta Kalifornijos universiteto bendrovė pradėjo etikos klausimus, susijusius su šios technologijos naudojimu. Tėvai, pasak jo, turėtų matyti reitingus kaip kompanioną, kuris „gali atspindėti ar neatitinka tikrojo asmens atributų“.
Tačiau pridūrė, kad kyla grėsmė samdyti probleminį ar smurtinį auklėtinį, todėl AI yra būtina priemonė tėvams, norintiems saugoti savo vaiką.
„Jei ieškote„ Google “piktnaudžiavimo auklėtojų, dabar matysite šimtus rezultatų“, - sakė jis. „Yra žmonių, kurie turi psichikos ligą arba yra tiesiog gimę blogis. Mūsų tikslas yra padaryti viską, ką galime, kad juos sustabdytume“.
Predictim skenavimas prasideda nuo $ 24, 99 ir reikalauja auklės vardo ir el. Pašto adreso bei jos sutikimo dalytis plačia prieiga prie savo socialinės žiniasklaidos paskyrų. Auklė gali atsisakyti, bet tėvui pranešama apie savo atsisakymą, o elektroniniu paštu auklėtojui sakoma: „suinteresuotasis tėvas negalės jums samdyti, kol nepateiksite šio prašymo“.
„Predictim“ vadovai sako, kad jie naudoja kalbos apdorojimo algoritmus ir vaizdo atpažinimo programinę įrangą, vadinamą „kompiuterine vizija“, kad įvertintų auklėtojų „Facebook“, „Twitter“ ir „Instagram“ įrašus, kad būtų galima sužinoti apie jų neprisijungus gyvenimą. Tėvui pateikiama ataskaita tik ir ji neturi pasakyti, kokie rezultatai yra.
Tėvai, galbūt, galėtų pačios pažvelgti į savo viešųjų socialinės žiniasklaidos sąskaitas. Tačiau kompiuteriu sukurtose ataskaitose žadama nuodugniai tikrinti metų veiklą internete, sukauptą iki vieno skaitmens: netikėtai paprastas nepraktiškos užduoties sprendimas.
Rizikos reitingai skirstomi į kelias kategorijas, įskaitant aiškų turinį ir piktnaudžiavimą narkotikais. Pradžioje taip pat buvo skelbiama, kad jos sistema gali įvertinti auklėtojus apie kitus asmenybės bruožus, tokius kaip mandagumas, gebėjimas dirbti su kitais ir „pozityvumas“.
Bendrovė tikisi pritraukti milijardų dolerių „tėvų užsakomųjų paslaugų“ pramonę ir pradėjo reklamuoti mokamas rėmimas tėvystės ir „mumijos“ dienoraščių. Bendrovės rinkodara daug dėmesio skiria jos gebėjimui atskleisti paslėptas paslaptis ir užkirsti kelią „kiekvieno tėvų košmarui“, nurodydama baudžiamąsias bylas, įskaitant Kentukio auklėtoją, kuris šiais metais buvo apmokestintas sunkiai sužeisdamas aštuonių mėnesių mergaitę.
„Jei šio auklėtojo sužeistos mergaitės tėvai galėjo naudoti„ Predictim “kaip savo tikrinimo proceso dalį, - sako įmonės rinkodaros dokumentas:„ jie niekada nebūtų palikę jos vieni su savo brangiu vaiku “.
Tačiau technikos ekspertai teigia, kad sistema kelia raudonų vėliavų, įskaitant susirūpinimą, kad tėvai baiminasi parduoti asmenybės nuskaitymus, kurių tikslumas nepatikrintas.
Jie taip pat abejoja, kaip sistemos yra apmokomos ir kaip pažeidžiamos jos gali būti nesusipratusios suprantamos sitters'o socialinės žiniasklaidos naudojimo reikšmės. Visiems, išskyrus didžiausią riziką turinčius nuskaitymus, tėvams pateikiamas tik abejotino elgesio pasiūlymas ir jokios konkrečios frazės, nuorodos ar detalės, kurios gali būti vertinamos atskirai.
Kai vienas auklėtojo nuskaitymas buvo pažymėtas galimu patyčių elgesiu, nenorėjusi motina, kuri to paprašė, sakė, kad negalėjo pasakyti, ar programinė įranga pastebėjo seną filmo citatą, dainų tekstą ar kitą frazę, o ne faktinę patyčių kalbą.
Tačiau „Predictim“ vis dėlto sako, kad ji pradeda plėtoti šalies mastu. Sittercity, internetinio auklės rinkos, kurią aplankė milijonai tėvų, vadovai sakė, kad ateinančiais metais pradeda bandomąją programą, kuri „Predictim“ automatizuotus reitingus suskirs į dabartinę svetainės matavimo ir fono patikrinimų masyvą.
„Susirašinėtojas gali surasti daug netikrumo“, - sakė „Sittercity“ produkto vadovas, Sandra Dainora, kuri mano, kad tokie įrankiai netrukus gali tapti „standartine valiuta“ ieškant globėjų internete. „Tėvai visada ieško geriausio sprendimo, labiausiai tyrinėja, geriausius faktus“.
„Washington Post“