Umělá inteligence (AI) našla uplatnění v kontrole kvality výroby, řízení vozidel i v systémech řízení palby. Chytré senzory nám umožňují získat data z míst, kam se člověk nedostane. Strojové učení a další algoritmy nám pomáhají vyhodnocovat informace v reálném čase. Umělá inteligence se používá v umění pro komponování hudby ale i pro syntézu hlasu a animace videí. Zapojení AI do procesu rozhodování však vedle výhod přináší i nové bezpečnostní hrozby. Konference Má mozek ještě šanci se v roce 2021 bude věnovat následujícím tématům:
Jak udržet umělou inteligenci pod lidskou kontrolou? Jaké jsou zranitelnosti AI? Jak minimalizovat algoritmickou předpojatost a předcházet riziku tzv. otravy trénovacích dat? Jak se bránit zneužití umělé inteligence pro ovlivnění rozhodování lidí?
Jak je oblast využívání AI regulována a které oblasti rozhodování bychom nikdy neměli předat strojům? Jaké nové kompetence a dovednosti si budeme muset osvojit pro spolupráci s AI?
Ve studentské sekci a doprovodném workshopu vás seznámíme s příspěvky mladých evropských hackerů, kteří se účastní European Cyber Security Challenge 2021 v Praze.
Václav Špáňa, Executive Partner, Gartner
Rizika a bezpečnostní hrozby, které přináší Umělá inteligence
S rostoucí adopcí systémů využívajících prvky umělé inteligence poroste odpovědnost manažerů za související informační rizika. Nedávný průzkum společnosti Gartner hodnotí metody řízení rizik a zdůrazňuje činnosti, které pomáhají odpovědným pracovníkům lépe se tuto situaci připravit.
Ondřej Šrámek, Security Analyst, PwC
AI v kybernetické bezpečnosti: marketingový hype versus zkušenosti z praxe
Můžete narazit na spoustu společností zabývající se kybernetickou bezpečností, které se chlubí využitím strojového učení. Dávají si záležet, aby při vysvětlování nezmínili slovo statistika, ale strojové učení. Jsou oblasti, kde strojové učení podává vynikající výsledky a je velmi užitečné. Nicméně jsou i oblasti, kdy by se měl mít uživatel na pozoru - mohlo by to vést k nesprávným výsledkům a závěrům.
Rudolf Blažek, Data Science Expert, NetPointers
Je to důkaz? Můžeme své rozhodnutí postavit na výsledcích umělé inteligence a strojového učení?
Rozumíme opravdu, na jaké otázky se snaží odpovědět systémy ML a AI nasazené v naší firmě? Někdy je složité i porozumět, jak tyto algoritmy měří svojí úspešnost a chybovost, a tedy i důvěryhodnost svých nálezů. Umíme měřit dopad, nebo odhadovat očekávaný dopad detekovaného anomálního chování? Měli bychom se zaměřit na rychlou detekci anomálií za účelem včasné obrany, nebo na zpětné odhadování očekávaného dopadu pro budoucí analýzu rizik? Je možné regulovat četnost falešných poplachů bez katastrofického dopadu na citlivost systému?
Petr Schwarz, VUT Brno
Dokáže syntéza hlasu zmást hlasovou biometrii?
Dnešní systémy pro hlasovou biometrii jsou mnohem přesnější než člověk. Ale jak to je s jejich bezpečností? Vyvíjíme mnohem přesnější algoritmy hlasové biometrie, ale zároveň se i posouvají algoritmy umožňující napodobit lidský hlas. V přednášce přiblížím, jak funguje hlasová biometrie, jak fungují algoritmy pro vytvoření umělého hlasu, a hlouběji rozeberu bespečnost nasazení hlasové biometrie.
Najah Nafah, výkonný ředitel, Blockchain Secure
Integrace Blockchain a AI pro důvěryhodnější digitální svět
Blockchain může pomoci řešením AI při zabezpečení souborů dat, palivu algoritmů AI a umožnit jejich sdílení decentralizovaným způsobem, bez člověka uprostřed. Scénáře sdílení a pravidla zpeněžení lze implementovat pomocí inteligentních smluv, což dává příležitost vlastníkům datových souborů, aby na jedné straně využili svůj majetek a na druhé straně mohli využívat sofistikované modely v oblasti strojového učení.
Jan Romportl, ředitel, AI Centrum, O2 Česká republika
Goodhartův zákon a vymknutá AI
Pokud se zvolené kritérium úspěšnosti stane cílem, přestává být dobrým kritériem. Jakýkoli systém strojového učení je ve své podstatě optimalizačním algoritmem hledajícím minimum zadané hodnoticí funkce. Pokud se začnou projevovat nežádoucí rozpory mezi tím, jak se systém podle svého konstruktéra měl chovat, a jak se na základě optimalizace dané funkce skutečně chová, jde o velmi problematický scénář, který nazvěme třeba „vymknutá AI“ (metaforickým překladem z angl. „misaligned AI“). Čím je pak AI systém kompetentnější v dosahování svých cílů, tím je nebezpečnější, pokud je vymknutý.
Michal Najman a Lada Hospodková, výzkumníci, Avast
Jak navrhnout robustní detektor kybernetických útoků?
Nejnovější modely strojového učení jsou náchylné k různým typům zranitelností. Například v důsledku driftu konceptu se účinnost nasazeného modelu a kvalita jeho výstupů v čase snižuje. Ve výzkumné laboratoři Avast Research Lab jsme zkoumali, jak předpovídáním budoucího malwaru čelit driftu konceptu. Naše výsledky naznačují, že model vycvičený pomocí předpovězených budoucích vzorků malwaru dosahuje lepší robustnosti a jeho účinnost v čase obstojí.
Jiří Karpeta, výkonný ředitel, Robodrone Idustries
Projekt AURORA – zabezpečení bezpilotních systémů pro urban mobility
Projekt AURORA financovaný EU bude vyvíjet a integrovat technologie důležité z hlediska bezpečnosti pro podporu autonomních letů UAM v městském prostředí a zaměří se při svých demonstracích především na aplikace související s nouzovými situacemi. Systém zahrnuje nutnost koordinace mnoha zainteresovaných stran a musí být schopen řešit autonomně řadu situací. Zapojení prvků umělé inteligence je tedy nezbytností. Na co vše bude nutné přitom myslet?
V roce 1991 Rudolf získal magisterský titul v matematické statistice na MFF UK v Praze a v roce 1998 Ph.D ve statistice na Michigan State University (MSU) v USA. Rudolf vyučoval celkem 20 let matematiku a statistiku: na MSU, na University of Southern California v Los Angeles (USC), na Yuan-Ze University na Taiwanu (YZU) a na FIT ČVUT v Praze. Na USC v roce 2001 začal aplikovat pokročilé statistické a matematické metody do oboru síťové a počítačové bezpečnosti. V této oblasti též přednášel, publikoval články a podílel se na několika projektech pro americké vládní instituce, včetně DARPA a Department of Energy. Výsledky výzkumu aplikoval do praxe jakožto ředitel softwarového vývoje ve firmě ADSANTEC v Torrance, California a jakožto CTO v Boxtrap Security v Praze. Je členem American Statistical Association (ASA), IEEE Computer Society a také IEEE.
Stéphane Duguin je generálním ředitelem CyberPeace Institute. Stéphane Duguin strávil dvě desetiletí analýzou způsobů využití technologie proti zranitelným komunitám. Zkoumal několik případů použití převratných technologií, jako je AI, v kontextu boje proti terorismu, počítačové kriminality, kybernetických operací, hybridních hrozeb a online použití dezinformačních technik. Vede institut CyberPeace s cílem dohnat útočníky k odpovědnosti za škody, které způsobují. Jeho úkolem je koordinovat kolektivní reakci na snížení frekvence, dopadu a rozsahu kybernetických útoků sofistikovanými útočníky.
Brigádní generál Miroslav Feix je velitelem Kybernetických a Informačních sil Armády České republiky. Kombinuje v sobě hluboký zájem o technologie, koncepční myšlení a zkušenosti z bojových operací. Většinu své kariéry strávil u Speciálních sil pro které vytvořil systém plánování a řízení v operacích, podílel se na jejich přeměně v moderní bojovou sílu a zavedl do praxe ucelený systém rozvoje schopností. Bojové zkušenosti získal na misích v Kosovu a Afghánistánu. Domácí vzdělání získal v oboru Teorie řízení na Vysoké vojenské škole. V zahraniční studoval na Naval Postgraduate School v Monterey, kde se věnoval obranné analýze se zaměřením na irregular warfare a teorii her. V diplomové práci zpracoval sadu nástrojů pro řešení základních situací v teorii her a jejich vizualizaci. Při rozvoji AČR stál u zrodu Kybernetických a Informačních sil. Inovativní organizace využívající moderní technologie a reagující na kybernetické, informační a hybridní hrozby. Rád tvoří budoucnost, chodí po horách, věnuje se rodině a sportu.
Jaroslav Gergič vede výzkumné a vývojové centrum pro kybernetickou bezpečnost společnosti Cisco v Praze. Spolu se svým týmem rozvíjí cloudové systémy pro ochranu před kybernetickými hrozbami s využitím umělé inteligence a strojového učení. Před nástupem do Cisco pracoval jako generální ředitel v českém start-upu GoodData. Získal doktorský titul na Karlově Univerzitě v Praze v oboru softwarové systémy. Ve svém volném čase se angažuje v české startupové komunitě jako mentor.
Markéta Gregorová je členkou Pirátů, europoslankyní a předsedkyní správní rady Institutu π. V Evropském parlamentu se soustředí například na témata dezinformací, kyberbezpečnosti a sledovacích technologií. Za Evropský parlament vyjednávala například regulaci vývozu zboží dvojího užití či směrnici NIS 2 o evropské kyberbezpečnosti.
Marek Havrda v současné době společně vede přípravu pokynů pro Ethical Impact Assessment, což je klíčový implementační nástroj připravovaného doporučení UNESCO o etice umělé inteligence, vůbec prvního globálního normativního nástroje upravujícího umělou inteligenci, a vede AI Policy & Social Impacts v GoodAI, soukromé společnosti pro výzkum a vývoj AI. Marek je členem ONE AI (OECD Network of Experts on AI), Global Governance of AI Roundtable (společně vede Expert Group on Managing the Economic a Social Impact of the AI Revolution) a přispívá k IEEE Ethically Aligned Design (a je jedním z autorů mezinárodní normy IEEE 7010-2020 pro posuzování vlivu autonomních a inteligentních systémů na lidské blaho). Marek působil u Evropské komise, kde přispěl k předběžnému posouzení dopadů legislativy EU. Před nástupem do Evropské komise zastával Marek různé vedoucí nebo poradenské pozice v neziskovém a soukromém sektoru. Studoval na Karlově univerzitě, Warwick Business School, Johns Hopkins University a Georgetown University. Marek je zván, aby přednášel na globálních akcích a předních institucích, včetně DARPA (program AI), University of Cambridge (Centre for Future of Intelligence), Společné výzkumné středisko Evropské komise a OSN.
Lada Hospodková vystudovala Umělou Inteligenci na FEL ČVUT v Praze. Během svých studií studovala v zahraničí na University of Stavanger v Norsku a TU Delft v Nizozemsku. Pracovala pro CISCO na modelech strojového učení pro analýzu síťového provozu používané jako poslední vrstva obrany. Nyní pracuje v Avastu na implementaci ML algoritmů pro Threat Defense, jejím úkolem je škálovat a zlepšovat detekci malwaru pro více než 400 milionů uživatelů.
Vinohrad jsem s tatínkem, kterému je už 87 let, obdělával odmalička. Právě on byl prvním vinařem v Československu, který vyrobil ledové víno. Vzpomínám si, že tehdy jsem vinohrad a všechno, co s ním souvisí, neměl vůbec v lásce. Později se to obrátilo a dnes je pro mě víno naprosto vším.
Láska, víra, naděje... tři sudičky, které provází životní pouť každého z nás.
Naše vína jsou o takové cestě. Jsou jako život sám…
O lásce – k rodině, přátelům, krajině, domovu.
O víře – boží krvi, odpuštění, pokoře.
O naději, se kterou můžeme snít, cítit volnost a dálku.
Richard Kadlčák působí na Ministerstvu zahraničních věcí ČR jako ředitel odboru kybernetické bezpečnosti a zároveň jako zvláštní zmocněnec pro kybernetický prostor. Zabývá se koordinací mezinárodní spolupráce v oblasti kybernetické bezpečnosti. Na ministerstvu zahraničních věcí pracoval uplynulých 20 let a vykonával mimo jiné funkci mimořádného a zplnomocněného velvyslance ČR v Estonsku.
S osobními počítači jsem si začal hrát na začátku 80 let. Propašoval jsem první IBM PC-XT do České Republiky a začal psát aplikace v C a Pascalu. Během studií Elektrotechniky na České technické univerzitě jsem pracoval jako vývojář v české pobočce LCS International a po 12 letech jsem se stal vedoucím divize vyrábějící #3 ERP systém na českém trhu. Přidal jsem se Microsoft v roce 2006 a začal technickou evangelizaci napříč několika technologiemi a zákaznickým segmentem. Ty obsahovaly projekty na podnikové úrovni i programy pro širší technické publikum. Moje vášeň pro nové technologie mě zavedla k Robodrone Industries které jsem založil spolu s mým partnerem v roce 2013. Naše mise je vyrábět drony, které jsou jednoduché na ovládání a mohou být plně integrovány do několika průmyslových scénářů. Droní průmysl spolu s érou internetu věcí je pro mě úžasný rozjezd a správné místo kde být.
Bořivoj Líbal je spoluřídícím partnerem v mezinárodní advokátní kanceláři Noerr. Mimo ji-né vede sekci digitálního práva a v této oblasti poskytuje právní poradenství významným lokálním i zahraničním klientům. Podílel se nejen na projektech zaměřených na ochranu osobních údajů a digitálního duševního vlastnictví, ale i na nákupech a prodejích firem v oblasti IT. Vystudoval práva na právnické fakultě Masarykovy univerzity v Brně a na univerzitě v Lisabonu. Je Rozhodcem u Mezinárodního rozhodčího soudu při Českomorav-ské komoditní burze, dále předsedou Česko-portugalské obchodní komory, místopředsedou Řídícího výboru AFI (Association for Foreign Investment) a členem Strategické rady Cen-tra pro rodinné firmy. Mluví anglicky a portugalsky.
Najah Naffah má dlouholeté zkušenosti v oblasti pokročilých informačních technologií (cloud, kybernetická bezpečnost, blockchain a umělá inteligence). Svou kariéru zahájil ve společnosti INRIA výzkumem počítačových sítí a kancelářských systémů. Do společnosti Bull Group, Sabre Technologies a EDS nastoupil jako vedoucí vedoucí různých obchodních jednotek. V poslední době byl generálním ředitelem Prologue Group a je jedním ze zakladatelů Blockchain Secure, start-upu se zaměřením na podniková řešení na bázi blockchainu. Na Pařížské univerzitě získal titul Ph.D. v oboru počítačová věda, má inženýrské tituly z Télécom Paris a ESIB Beirut-Lebanon.
Michal Najman je AI researcher ve společnosti Avast Research Lab kde provádí výzkum v oblasti robustního strojového učení a pravidlové klasifikaci řízené AI. Cíle je vytvářet vyšší standart ochrany pro 400 miliónů uživatelů Avastu. Než vstoupil do oboru kyberbezpečnosti byl ML specialista ve společnosti DataBreakers a asistent výzkumu na Tampere University. Studoval ČTU FEE a Aalto University v Helsinkách, kde získal titul v oboru umělé inteligence.
Petr Očko (narozen 22. dubna 1976) vystudoval informační management a evropskou integraci na Vysoké škole ekonomické v Praze a dále absolvoval Ph.D. studium v oblasti informační ekonomiky na Filozofické fakultě Univerzity Karlovy v Praze. Začínal v roce 1998 v tehdy malé firmě, která by dnes byla označena za úspěšný technologický startup a která byla jedním z pionýrů komerčních webových aplikací v ČR. Jako expert v oblasti evropské ekonomické integrace se pak na ministerstvu financí od roku 2001 věnoval oblasti strukturálních fondů EU, od roku 2004 pracoval jako poradce náměstka ministra financí pro oblast finančního trhu a v roce 2006 byl vládou pověřen funkcí národního koordinátora zavedení eura. Od srpna 2007 pak působil v soukromé sféře jako koordinátor projektů EU ve společnosti Telefónica O2. Do státní správy se vrátil v roce 2009 na pozici vrchního ředitele pro oblast rozpočtu a fondů EU na ministerstvu dopravy a od srpna 2010 pak působil jako sekční ředitel pro oblast fondů EU, výzkumu a vývoje na ministerstvu průmyslu a obchodu, kde měl na starosti zejména řízení klíčových programů na podporu průmyslového výzkumu a vývoje, inovací a podnikání. V letech 2012-2013 měl jako pověřený generální ředitel na starosti také stabilizaci a rozvoj agentury pro podporu podnikání a investic CzechInvest. Od roku 2015 vedl na MPO odbor finančních nástrojů a řízení projektů a připravoval zejména projekt Národního inovačního fondu či transformaci Českomoravské záruční a rozvojové banky. V březnu 2016 pak byl vládou jmenován předsedou Technologické agentury ČR a v jejím čele úspěšně napomáhal rozvinout podporu aplikovaného výzkumu v oblastech klíčových pro Českou republiku, včetně oblasti tzv. Průmyslu 4.0 a dalších významných trendů. Od července 2018 je náměstkem ministryně průmyslu a obchodu zodpovědným za zcela novou sekci digitalizace a inovací a věří, že Česká republika má obrovský potenciál využít digitální technologie, aby bal lídrem v mnoha řešeních, která pomáhají lepšímu životu lidí.
Radim Polčák je prorektorem Masarykovy univerzity a vedoucím Ústavu práva a technologií Právnické fakulty MU. Jako host pravidelně přednáší na právnických fakultách a justičních vzdělávacích institucích v Evropě, USA a Austrálii; zabývá se převážně právní teorií a právem informačních technologií; je zakládajícím členem European Academy of Law and ICT, zakládajícím členem European Law Institute a členem odborných orgánů vědeckých a akademických společností v Evropě, Asii a Austrálii. V letech 2017 a 2018 působil jako zvláštní poradce Evropské komise pro robotiku a ochranu dat, od roku 2020 je předsedou správní rady CyberSecurity Hub, zapsaného ústavu založeného MU, ČVUT a VUT.
Jan Romportl je ředitel Centra umělé inteligence Dataclair.ai a zároveň Chief Data Scientist v O2 Czech Republic. Má Ph.D. z umělé inteligence a vystudoval také kybernetiku a filozofii. Než v roce 2015 nastoupil do O2, měl 12 let zkušeností v akademickém výzkumu a výuce v oblastech umělé inteligence, interakce člověka a stroje, řečových technologií a filozofie. Byl vedoucím oddělení Interakce člověka a stroje ve Výzkumném centru nových technologií na Západočeské univerzitě v Plzni a zároveň výzkumníkem na Katedře kybernetiky. V současnosti je také členem Katedry filozofie téže univerzity, spolupracuje s Centrem teoretických studií Univerzity Karlovy a s českým Spolkem pro efektivní altruismus. Organizuje Prague AI Safety Meetup a snaží se být nápomocen české komunitě zabývající se bezpečností a hodnotami umělé inteligence.
Petr je výzkumníkem ve skupině Speech@FIT na Vysokém učení technickém v Brně. Má zkušenosti v řečových technologiích jako je hlasová biometrie, přepis řeči, detekce klíčových slov, identifikace jazyka a další. Petr dokáže transformovat nejnovější výzkum na produkty každodenní potřeby. Pracoval na řadě národních, evropských a amerických výzkumných projektech, a také na řadě mezinárodních srovnávacích kampaní technologií jako jsou kampaně pořádaní Národním institutem pro standardy a technologie, USA. V roce 2006 Petr založil společnost Phonexia, která nyní prodává řečové technologie do více jak šedesáti zemí světa.
Ing. Jaroslav Šmíd vystudoval technickou kybernetiku na Fakultě elektrotechnické ČVUT v Praze. Celý svůj profesní život pracuje ve státní správě v oblasti informačních technologií. V současné době pracuje na pozici náměstka ředitele Národního úřadu pro kybernetickou a informační bezpečnost a je odpovědný za Sekci informační bezpečnosti. Je členem např. Rady Programu bezpečnostního výzkumu České republiky, Rady vlády pro informační společnost, Rady Národního centra kompetence pro kyberbezpečnost a na mezinárodní úrovni zastupuje ČR na různých fórech zabývajících se bezpečností informačních systémů v rámci NATO, EU, ESA, CC a Galileo.
Václav má více než 30 let zkušeností v IT napříč různými odvětvími a trhy. Dodával na straně dodavatelů komplexní řešení a kritických systémy, vedl klíčová IT oddělení a operace ve velkých mezinárodních podnicích jako CIO a COO. Byl zodpovědný za bezpečnostní funkci v kritických operacích v oblasti bankovnictví a veřejných služeb. V poslední době pracuje ve společnosti KPC/Gartner jako exekutivní partner.
Petr se hluboce zajímá o všechno spojené s kybernetickou bezpečností, technologiemi a dopady na soukromí. V oblasti informační bezpečnosti jsou jeho hlavním zájmem disciplíny Threat Intelligence a Incident Response, zejména s ohledem na škálovatelnost obranných schopnosti v závodech v kybernetickém zbrojení. Jeho hluboké přesvědčení je, že kybernetická bezpečnost je základní lidské právo, umožňující další - soukromí, svobodu volby a informované rozhodování. Svou magisterskou práci na Univerzitě v Liverpoolu zaměřil na "Aplikaci Bezpilotních Letounů v Kybernetických Operacích". Považuje vzdělávání a nábor čerstvých talentů do průmyslu kybernetické bezpečnosti za zásadní pro budoucíh vychýlení rovnováhy ve prospěch obránců.
Ondřej Šrámek po absolvování Fakulty informatiky Masarykovy univerzity nastoupil jako odborník na kybernetickou bezpečnost do Národního centra kybernetické bezpečnosti při NBÚ. Následně působil jako vedoucí skupiny, později vedoucí oddělení Analýzy síťového provozu NCKB až do svého odchodu z úřadu. V září 2018 nastoupil jako Security Analyst do společnosti Oracle kde měl na starost vývoj nových detekcí se zaměřením na cloudové prostředí. Od dubna 2021 pracuje v PwC jako Security Analyst, kde se zabývá převážně Incident Response a forenzní analýzou. Od roku 2014 se pravidelně účastní kybernetických cvičení, zejména Locked Shields. Je členem aktivní zálohy AČR (VeKySIO) a od roku 2018 dělá lektora kurzu bezpečnosti v neziskové organizaci Czechitas.
AFCEA Česká pobočka
Česká pobočka AFCEA zaměřuje dlouhodobě svoji pozornost do oblasti podpory rozvoje informačních a komunikačních technologií ozbrojených sil a bezpečnostních sborů. Česká pobočka AFCEA byla založena 5. května 1993 a pravidelně organizuje odborné konference a semináře v oblasti informačních a komunikačních technologií a bezpečnostních aspektů. Od roku 1993 jsme uspořádali více než 50 mezinárodních konferencí a více než 100 odborných seminářů a klubových akcí.
Jsme česká technologická společnost. Již 25 let vyvíjíme profesionální nástroje, které pomáhají najít, pochopit a využít informace k podpoře rozhodování. Umělá inteligence je jedním z nástrojů, který manažerům pomáhá činit správná rozhodnutí. Tuto konferenci vnímáme jako příležitost hovořit o přínosech umělé inteligence i souvisejících rizicích. Naším cílem je zhodnotit využitelnost umělé inteligence nejen z pohledu konkurenceschopnosti jednotlivého podniku, ale i diskutovat o dopadech AI na konkurenceschopnosti ekonomiky a bezpečnost státu.
Kongresové centrum Praha
5. května 1640/65, Nusle 140 00 Praha 4
přejít na web