fonto:
laNederlanda ĵurnaloNRC
https://www.nrc.nl/nieuws/2017/11/24/europa-moet-zorgen-voor-de-morele-balans-14215612-a1582565
tradukis ĝin (el la Nederlanda en Esperanton) Toon Witkam
'EÅropo devas zorgi pri la morala ekvilibro'
La Nederlanda profesoro pri 'machine learning', Max Welling, vendis sian entreprenon 'Scyfer' al ico-fabrikanto 'Qualcomm'. Se Usono transprenas nian pri-informadikan talenton, ĉu EÅropo tiam ankoraÅ okupas rolon en la disvolvado de artefarita inteligenteco?
NRC 25 novembro 2017
Intervjuo kun Max Welling,
fare de NRC-redaktisto Marc Hijink
Lia suspiro preskaÅ aÅdeblas. Tio okazas se vi ree demandas esploriston specialiÄintan en artefarita inteligenteco, kion ni devas ekspekti kiam komputiloj vere fariÄos pli inteligentaj ol homoj.
Max Welling malmulte Åatas antaÅdiri. Li ne maldormas pro robotoj kiuj transprenas la mondon. Plie li faras al si zorgojn pri tio, kio restas de la asekursistemo se vi povas perfekte prognozi kiu malsaniÄas. AÅ kio okazos kiam ĉies vizaÄo estos ĉie rekonebla.
La Amsterdama profesoro Max Welling estas specialisto en la kampo de machine learning, la teÄ¥nologio kiu plene majstras la programaro-industrion. "Mi portas du ĉapelojn," li diras. Sur la unu videblas la vinjeto de la Universitato de Amsterdamo. La alia ĉapelo estas de Qualcomm. Tiu Usona blato-kompanio ĉi-jare aĉetis Scyfer-on, tutnovan entreprenon kiun Welling komencis en 2013 kun amiko el sia studenta tempo, kaj kelkaj junaj studentoj. Scyfer evoluigas memlernajn algoritmojn kiuj analizas bildajn informojn kaj sensorajn datumojn. Welling ne devis transloÄiÄi; la Nederlanda Qualcomm-laboratorio jam staras en la Science Park. Promeni ducent metrojn, ne plu necesas.
Google faras Äin, Apple kaj Facebook ankaÅ: en ilia serĉado al malabunda talento, teÄ¥nologiaj entreprenoj volonte dungas profesorojn. Ili estas magnetoj por altiri pli da studentoj.
La alia taktiko estas la transpreno de promesplenaj tutnovaj entreprenoj. Ĉe Scyfer, Qualcomm – kiu en 2014 ankaÅ jam aĉetis alian spin-off de la UvA[i] – kaptis du muÅojn per unu frapo: "Mi havis dek homojn, kiuj ĉiu havis kvin jarojn da sperto pri aplikado de deep learning sistemoj. Tiom da sperto, tio estas ja malofta", diras la 49-jara Welling.
Deep learning estas juna esplorkampo de machine learning - memlernantaj komputiloj. Programaro-kodo ne baziÄas sur reguloj skribitaj de homoj, sed sur modeloj de komputiloj kiuj disvastiÄas tra grandaj kvantoj da datumoj per neÅraj retoj, serĉante Åablonojn. Ĉi tiuj modeloj regas nian amaskomunikilan konsumon, konsilas al kuracistoj ĉe diagnozoj kaj al asekuristoj ĉe riskoprofiloj.
Welling: "SerĉmaÅinoj, robotiko, bildo-rekono: machine learning estas komponanto en ĉiuj tiuj aplikoj. Rigardu Äin kiel martelo kiun vi povas uzi por iu ajn laboro."
Estas precipe la mem-veturanta aÅto kiu ludas gravan rolon ĉe la transiro de Welling al Qualcomm. La blato-giganto volas ja por 47 miliardoj da dolaroj transpreni NXP-on, la Nederlandan ico-entreprenon[ii] kiu elkreskis Äis grava liveranto por la aÅto-industrio.
Samtempe, Qualcomm mem estas minacata de malamika transpreno: la Usona blato-giganto Broadcom proponis 105 miliardojn da dolaroj – negoco intertempe per kelkaj vortoj malakceptita de Qualcomm. Tiaj sumoj estas por Scyfer ne pagitaj – kiom ja, tio ne konatas.
Kion vi faros ĉe Qualcomm?
"Ni esploradas parolrekonon por poÅtelefonoj kaj bildrekonon por kameraoj en aÅtoj. Krome ni estas plimalgrandigantaj la neÅrajn retojn, tiel ke ili ankaÅ povas funkcii ene de telefono. Artefarita inteligenteco plivastiÄas al la ‘randoj de la reto’: nun la kalkulpotenco por machine learning troviÄas ankoraÅ plejparte en la cloud, la grandaj komputilaj retoj. Ni volas evoluigi icojn kiuj povas algoritmojn glate funkciigi en telefono aÅ en aÅto."
Kial gravas, ke aparatoj mem povas plenumi tiajn taskojn?
"Google faras tiaĵon kun sia nova Clips Camera: tiu aÅtomate prenas fotojn de ‘amuzaj’ momentoj. Se vi faros ion mallerta, vi ne volas ke tiu foto rekte iras en la cloud al Google. Analizo en la aparato mem protektas vian privatecon kaj ankaÅ bonas por Qualcomm."
"Alia eblo: niaj aparatoj kunkune formas neÅran reton [programaro kiu laÅ strukturo similas al la neÅronoj en la homa cerbo] kiun vi daÅre trejnadas kun novaj datumoj. Utila se entrepreno havas datumojn kiujn Äi ne volas stoki en la cloud. Tiel vi konstruos dinamikan ĉirkaÅaĵon por machine learning kaj restadas entrepren-sentemaj datumoj tamen en via propra reto."
Por aÅto-fabrikanto estas praktike, se oni povas kunhavigi live informojn inter veturiloj. Sed tio ja temas pri tre personaj datumoj.
"Ĉe la UvA, ni esploras kiel oni konstruas privateceman neÅran reton. Aldonante hazardan bruon al datumoj, vi povas certigi ke la kunigita informo postvivas, sed la individua informo detruatas. Tiam vi havas modelon kiu ekzemple kalkulas la mezan longecon de ĉiuj enloÄantoj de Amsterdamo, sed via propra longeco ne estas delasata kaj ankaÅ ne estas rekonstruebla."
Se artefarita inteligenteco estas la motoro de renovigo, tiam datumoj estas la brulaĵo. EÅropaj scienculoj avertas, ke esplorado pri artefarita inteligenteco haltos, se ekde 2018 validos striktaj EU-privatecreguloj. La lingvistikisto Arjan van Hessen skribis en NRC, ke Ĉinio kaj Usono forprenas la IT-oron[iii]. Li nomas la privatecregulojn 'malsukceso' de EÅropaj teÄ¥-entreprenoj, se tiuj apenaÅ ekhavas aliron al grandaj kvantoj da datumoj. AnkaÅ René Obermann, la eksa pinta manaÄero de Deutsche Telekom kaj Ziggo, pledis pasintsemajne ĉe Nederlanda telekom-kongreso por pli facila aliro al datumoj, por lasi la EÅropan postiÄintecon - precipe ĉe la aÅto-industrio – ne plialtiÄi.
LaÅ Max Welling, tio ne kuras tiel rapide. "Ni kapablas datumojn bone anonimigi. EÅropo ne devas aliri la saman vojon kiel Usono aŠĈinio, sed Äuste zorgi pri la morala ekvilibro."
Welling vidas aliajn strukturojn en tiu leÄo, kiu donas al civitanoj la rajton scii kiel algoritmoj alproksimiÄas al ili, por tiel preventi diskriminacion. "Ĉio kion algoritmo faras, devas esti klarigebla. Tio estas nekredeble malpreciza: mi eĉ ne povas ekspliki kial mi mem prenas decidon. Artefarita inteligenteco povas ankaÅ bonege helpi por kontraÅbatali homan antaÅjuÄon: ekzemple se algoritmo konstatas ke universitato akceptas laÅstatistike vere tro malmultajn malblankulojn."
Kion laÅ vi estas la riskoj?
"La asekuristoj reklamas ke via premiumo malsupreniras, ekzemple se vi stiras pli sekure aÅ vivas pli sane. Kion ili ĉe tio ne rakontas, estas ke premioj por aliuloj fariÄas pli altaj. Korektebla malbonkonduto povas ja esti pli multekosta, sed vi neniam devus esti punita pro viaj malbonaj genoj. Se vi scias perfekte kiu ekhavos kanceron, ĉiu solidareco malaperos el la sistemo."
"Homoj ankaÅ subtaksas, kiom facile iliaj vizaÄoj povas esti rekonataj, tiel ke vi povas ĉie esti sekvata - en Eindhoven[iv] jam troviÄas kameraoj en lanternfostoj. Kaj mi ankaÅ ne komfortas ĉe tia aparato kiel la Alexa de Amazon, kiu ĉiam aÅskultadas en via hejmo kaj sendas datumojn al Amazon."
Kio devas okazi antaÅ ol la memveturanta aÅto vere rondveturas?
"Eĉ se la robota aÅto estas pli sekura ol homoj ĉe la stirilo: se vi havas ja nur unu akcidenton, la negativa publikeco estos grandega. PostdaÅros jarojn antaÅ ol via aÅto mem stiros tra Amsterdamo. Estas nuntempe ankoraÅ tre malfacile reagi adekvate al ĉiuj eblaj situacioj en la urba centro de Amsterdamo; mankas sufiĉaj datumoj el la pasinteco kaj la algoritmoj estas ankoraÅ ne sufiĉe lertaj.
"Iras multe da esplormono al reinforcement learning, algoritmoj kiuj eksperimente kaj laÅsperte lernas plani kaj preni decidojn. Ili lernas kiel infanoj: formas hipotezojn, testas tiujn kaj memoras kio funkcias. Algoritmoj devas elekti agadojn kiuj longtempe havas la plej bonan rezultaton. Tiam vi povas pli bone taksi ĉu vi povas alian aÅton preterpasi aÅ Äuste devas malakceli.
"Komputiloj devas lerni rigardi antaÅen kiel homoj. Tiel vi mem ankaÅ prenas decidojn: vi iras al la lernejo, kvankam vi eble ne Åatus esti denove inter la libroj. Sed en pli longa daÅro, tiu investo eble alportos al vi pli bonan postenon."
[i] UvA = Universitato de Amsterdamo
[ii] la ofte kiel prefikso uzataj vortoj "ico-" kaj "blato-" havas la saman signifon: tre malgranda integra elektronika cirkvito
[iii] IT = Informadika Teĥnologio
[iv] Eindhoven = Nederlanda urbo, kun altteĥnologiaj entreprenoj, institutoj kaj universitato