okrugli stol “kibernetsko-fizikalni sustavi i internet stvari” · umjetna inteligencija znanost...
TRANSCRIPT
![Page 1: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/1.jpg)
Umjetna inteligencija i podatkovna znanost kao pokretači digitalne transformacije
Jan Šnajder (SuZ FER)
HKG, Zagreb, 11. 4. 2018.
Akademija tehničkih znanosti HrvatskeHrvatska gospodarska komoraInovacijski centar Nikola Tesla
Okrugli stol“Kibernetsko-fizikalni sustavi i Internet stvari”
![Page 2: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/2.jpg)
Umjetna inteligencija i strojno učenje
Podatkovna znanost
Utjecaj na društvo
1
2
3
![Page 3: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/3.jpg)
Umjetna inteligencija i strojno učenje
1
![Page 4: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/4.jpg)
Google Assistant
![Page 5: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/5.jpg)
Netflix: Sustav preporučivanja
● Netflix recommendation
![Page 6: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/6.jpg)
Sigurnosni nadzor
![Page 7: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/7.jpg)
Računalne igre
![Page 8: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/8.jpg)
Umjetna inteligencija
Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek, iziskivali inteligenciju.
– Marvin Minsky (1927–2016)
![Page 9: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/9.jpg)
![Page 10: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/10.jpg)
![Page 11: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/11.jpg)
1997: IBM Deep Blue
![Page 12: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/12.jpg)
GOFAI: Kombinatorna eksplozija
![Page 13: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/13.jpg)
Računalni vid
![Page 14: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/14.jpg)
Obrada prirodnog jezika
![Page 15: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/15.jpg)
AI zime
![Page 16: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/16.jpg)
Strojno učenje
![Page 17: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/17.jpg)
2011: IBM Watson
![Page 18: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/18.jpg)
Google Translate
![Page 19: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/19.jpg)
Klasifikacija poruka
![Page 20: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/20.jpg)
Duboko učenje
![Page 21: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/21.jpg)
2016: DeepMind's AlphaGo
![Page 22: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/22.jpg)
2016: Google's Neural Translation
![Page 23: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/23.jpg)
2017: Deep Reinforcement Learning
![Page 24: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/24.jpg)
AI hyphe cycle
Gartner Hype Cycle 2017
![Page 25: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/25.jpg)
Podatkovna znanost
2
![Page 26: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/26.jpg)
Rast podataka
● Količina raspoloživih vrlo brzo raste
● 2020. godine: više od 16 zettabajta (16 trilijuna GB) podataka
● Rast od 236% godišnje od 2013. do 2020. godine– prema studiji firme IDC - “Worldwide Big
Data Technology and Services 2014-2018”
![Page 27: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/27.jpg)
Big Data
Volume, Variety, Velocity
![Page 28: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/28.jpg)
Podatci kao kapital
● U suvremenom svijetu podaci su postali kapital koji može...
– osigurati značajne kompetitivne prednosti
– poticati inovacije
– povećati konkurentnost
– stvoriti značajan utjecaj na društvo
![Page 29: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/29.jpg)
Rast tržišta podataka
● Tržište velikih podataka raste šest puta brže od cjelokupnog ICT tržišta
● Ukupni godišnji rast tržišta velikih podataka u razdoblju od 2013.-2017. godine bit će oko 27%, dosežući ukupni iznos od oko 50 milijarda dolara– prema studiji američke kompanije za tržišna istraživanja IDC iz
2013. godine
![Page 30: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/30.jpg)
Znanost o podatcima
● Znanost o podacima (data science) bavi se problemom izlučivanja znanja i zaključaka iz podataka, uključujući vrlo velike skupove (big data)
● Data science is the art and science of transforming data into actionable knowledge
● Data Science is the art and science of transforming raw data into deliverable data products in order to help businesses or government agencies make more informed decisions
![Page 31: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/31.jpg)
Data Science / Big Data
![Page 32: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/32.jpg)
“Podatkovni znanstvenik”
● Zbog potreba gospodarstva i državnih institucija u svijetu je velik potražnja za ekspertima ovog profila
● Zanimanje "data scientist" jedno od najatraktivnijih zanimanja desetljeća
● FER na diplomskom studiju uvodi poseban profil “znanost o podatcima”
![Page 33: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/33.jpg)
![Page 34: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/34.jpg)
ZCI za znanost o podatcima i kooperativne sustave
● Osnovan 2015. godine
● Jedini centar izvrsnosti u području tehničkih znanosti u Hrvatskoj!
● 13 partnerskih institucija s ukupno 80 znanstvenika
● Koordinator: FER
![Page 35: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/35.jpg)
Opći ciljevi Centra
● Istraživačka izvrsnost
– unaprijediti znanja i povećati broj financiranih istraživačkih projekata na nacionalnoj i međunarodnoj razini
● Prijenos tehnologije
– Pokrenuti transfer tehnologije k industriji i vladinim organizacijama
● Konzultantske usluge i infrastruktura
● Edukacija i usavršavanje
![Page 36: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/36.jpg)
Strateška područja istraživanja
● Multimodalna obrada podaka i upravljanje informacijama
● Strojno učenje i dubinska analiza podataka
● Heterogeno računarstvo i napredne usluge u oblaku
● Višedisciplinarne podatkovno intenzivne primjene
– Čestična i astročestična fizika
– Biološke znanosti i zdravstvena skrb
– Poslovna analitika i financije
– Stvarnovremenska analitika prometnih podataka
– Mreže i društvo
![Page 37: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/37.jpg)
Utjecaj na društvo i pojedinca
3
![Page 38: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/38.jpg)
Glavna pitanja
● Kratkoročno:– Sigurnost (autonomna vozila, LAWs)
– Zakoni
– Poslovi
– Etička primjena podatkovne znanosti
● Srednje/dugoročno:– Umjetna opća inteligencija (AGI)
– Superinteligencija
![Page 39: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/39.jpg)
UI i tržište rada
Hoće li UI ugroziti poslove naše poslove i povećati nezaposlenost?
![Page 40: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/40.jpg)
UI i tržište rada
● Teorija tehnološke nezaposlenosti (Keynes, 1930)
● Utjecaj tehnologije na zapošljavanje:– Negativan: uklanjanje radnika
– Pozitivan: povećanje potražnje za radom u durgim industrijama koje nastaju uslijed automatizacije
![Page 41: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/41.jpg)
Efekt industrijskih revolucija
Prva IR (kraj 18. st.)● 50x povećanje produktivnosti tkalaca, 98% pad
potrebnog uloženog rada, pad cijene tkanina, povećanje potražnje
Druga IR (početak 20. st.)● Uvođenje automobila smanjuje potražnju za poslovima
povezanima s konjima, ali dovodi do značajnog povećanja ponude poslova u automobilskoj industriji te povezanim industrijama (npr. industrija brze hrane)
![Page 42: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/42.jpg)
Efekt industrijskih revolucija
Treća IR = “Digitalna revolucija” (traje)● Uvođenje softvera za analizu pravnih
dokumenata smanjilo je troškove pretraživanja ali povećalo potražnju za tom uslugom, rezultirajući povećanjem potražnje za pravnim činovnicima
● Uvođenje bankomata nije smanjilo je broj bankovnih činovnika po poslovnici, ali se smanjio trošak vođenja poslovnice, pa se povećao broj poslovnica i ukupan broj bankovnih činovnika
![Page 43: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/43.jpg)
Četvrta industrijska revolucija
![Page 44: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/44.jpg)
Efekt četvrte IR?
● Povijest sugerira da kratkoročno dominira efekt gubitka radnih mjesta, međutim dugoročno dominira efekt produktivnosti i pozitivan utjecaj na zapošljavanje
● The McKinsey Global Institute: Utjecaj UI na društvo 300x puta intenzivniji i događa se u 10x kraćem razdoblju... Je li ovaj put drugačije?
● Teško je predvidjeti efekt produktivnosti (npr. prije 20 godina nitko nije predvidio postojanje pametnih telefona i s njima povezane industrije)
● Ne postoji konsenzus
![Page 45: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/45.jpg)
Efekt 1: Platformski kapitalizam
Ueber: BMW: ~ $60b, 125k employees
![Page 46: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/46.jpg)
Efekt 1: Platformski kapitalizam
Uber: $60b, 12k employees BMW: ~ $60b, 125k employeesAirbnb: $30b, 3k employees Renault: $30b, 127k employees
![Page 47: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/47.jpg)
Die digitale Wirtschaft neigt dazu, gute Vollzeitjobs durch schlechte Kurzeitjobs zu ersetzen.
Deutschland muss sinen eigenen digitalen Weg suchen. Der Mittelstand is Deutschlands Wunderkind.
![Page 48: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/48.jpg)
Efekt 2: Nezapošljivost
Hans Moravec: Krajolik ljudske kompetencije
![Page 49: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/49.jpg)
Krajolik ljudske kompetencije
We could face a “perfect storm” – a situation where a technological unemployment and environmental impact unfold roughly in parallel.
If we can fully leverage advancing technology, while recognizing and adapting to its implications for employment, then the outcome is likely to be more optimistic.
![Page 50: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/50.jpg)
Etička pitanja: neželjene posljedice
● Rizik neželjenih posljedica se povećava● Brojni promašaji pokazuju da tvrtke nisu u
stanju predvidjeti neželjene posljedice● Izgradnja aplikacija koje koriste ML je
netrivijalna, zbog čega tvrtke žure na tržište
![Page 51: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/51.jpg)
Flickr, 2015
![Page 52: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/52.jpg)
Google, 2015
![Page 53: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/53.jpg)
Arnoux et. al. 25 Tweets to Know You: A New Model to Predict Personality with Social Media, AAAI 2017
“Fama helps companies fill in the gaps of information on the people they are looking to hire by looking at their publicly available online presence.”
![Page 54: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/54.jpg)
Weapons of Math Destruction
Cathy O'Neil, 2016
![Page 55: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/55.jpg)
Weapons of Math Destruction
● Prediktivni alati (big data) koji su:– Netransparentni
– Nepravedni (proxies, feedback loops)
– Skaliraju na velik broj slučajeva
![Page 56: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/56.jpg)
EU i UI
● 9. ožujak 2018: Izjava Europske skupina za etiku u znanosti i novim tehnologijama (EGE)
● Statement on Artificial Intelligence, Robotics and ‘Autonomous’ Systems– How can we make a world with interconnected AI and ‘autonomous’ devices safe
and secure and how can we gauge the risks?
– Where is the morally relevant agency located in dynamic and complex socio-technical systems with advanced AI and robotic components?
– How should our institutions and laws be redesigned to make them serve the welfare of individuals and society and to make society safe for this technology?
– Questions regarding democratic decision making, including decision making about institutions, policies and values that underpin all of the questions above.
– Questions about the explainability and transparency of AI and ‘autonomous’ systems.
![Page 57: Okrugli stol “Kibernetsko-fizikalni sustavi i Internet stvari” · Umjetna inteligencija Znanost o tome kako postići da strojevi izvode zadatke koji bi, kada bi ih radio čovjek,](https://reader031.vdocuments.site/reader031/viewer/2022041316/5e161b25081619618b18e1de/html5/thumbnails/57.jpg)
Umjesto zaključka
● “Asilomar AI principles”
https://futureoflife.org/ai-principles/● 23 načela o istraživanju, etici i dugoročnim
pitanjima umjetne inteligencije● Gotovo 4000 potpisnika, uključivo vodećih
istraživača u UI i robotici te svjetski poznatih poduzetnika i investitora