Zakończyło się właśnie 5 Forum Prawa Mediów Elektronicznych w Opolu. Tematem tej edycji były prywatność (w tym RODO), sztuczna inteligencja, pojazdy autonomiczne, cyberbezpieczeństwo, kryptowaluty, blockchain. Czy prawo nadąża za rozwojem technologii? Jakie są postulaty kierunków zmian? Zapraszam do przeczytania mojego obszernego sprawozdania z konferencji.

Po raz pierwszy transmisja z wydarzenia była dostępna “na żywo” dla wszystkich bezpłatnie, była też wyświetlana aż na 9 uniwersytetach w Polsce. Pełne, wielogodzinne (“ciągłe”) streamingi z obydwu dni konferencji (nagrane wszystkie wystąpienia i dyskusje) są dostępne na oficjalnej stronie tego wydarzenia: 5 Forum Prawa Mediów Elektronicznych (tam też program 5FPME) oraz poprzez bezpośrednie linki do YouTUBE: 5FPME Streaming Dzień 1 oraz 5FPME Streaming Dzień 2.

Tymczasaem ja w ramach prowadzonego przeze mnie już przez prawie 20 lat projektu non-profit “NoweMEDIA”, będąc od lat patronem medialnym wydarzeń CBKE (pomagałem je zakładać profesorowi Jackowi Gołaczyńskiemu), współorganizatora 5FPME, przedstawiam własne sprawozdanie z konferencji ilustrowane co ciekawszymi wystąpieniami niektórych prelegentów. Warto też się zapoznać ze sprawozdaniem z zeszłorocznego 4. Forum Prawa Mediów Elektronicznych we Wrocławiu, które dotyczyło najbardziej wówczas “gorącego tematu”, jakim było RODO.

TREŚCI CYFROWE – prof. Fryderyk Zoll

Profesor omawiał projekt dyrektywy o dostępie do treści cyfrowych, nad którym w marcu zakończono pracę (DYREKTYWA PARLAMENTU EUROPEJSKIEGO I RADY w sprawie niektórych aspektów umów o dostarczanie treści cyfrowych). W kontekscie tej regulacji i rozwoju rynku e-commerce, za którym często regulacje prawne nie nadążają, Profesor (słusznie) na wstępie filozoficznie zastanawiał się na głos czy, wykorzystując jako narzędzie do regulacji stosunków gospodarczo-społecznych “prawo elektroniczne”, prywatne – rozwiązujemy problemy, które istnieją naprawdę, czy też rozwiązujemy problemy nieistniejące lub – przynajmniej – nie do końca realne (w oderwaniu od nowoczesnej, technologicznej rzeczywistości). Okazuje się bowiem, że rynek e-commerce niejako sam tworzy elastycznie regułu (“samotworzące się” reguły) a ustawodawca często nie jest w stanie realnie regulować tych systemów.

“Zbliża się czas prawa bez konsumentów, ale i bez prawa” – tracimy zdolność regulacyjną.

Ciekawą problematyką poruszoną w wystąpieniu była kwestia danych osobowych jako świadczenia wzajemnego za treści cyfrowe. Ponieważ dyrektywa nie obejmuje treści dostarczanych nieodpłatnie, można powiedzieć, że chodzi o płatność “wykonaną” danymi osobowymi.

Tu powstaje interesująca kwestia np. w kontekście RODO. Jaki wpływ będzie miało np. cofnięcie zgody na przetwarzanie danych osobowych lub sprzeciw (RODO) w przypadku “odpłatności” dokonanej danymi osobowymi na cywilistyczne konsekwencje umowy, w której dostaliśmy treści w zamian za dane?

Warto zapoznać się z tymi rozważaniami w nagraniu wystąpienia prof. Fryderyka Zolla poniżej – prof. dr hab. F. Zoll (UJ): O projekcie dyrektywy o dostarczaniu treści cyfrowych – czy klasycznym podejściem można uchwycić problemy nowych technologii (po kliknięciu w wideo poniżej, odtwarzanie zacznie się od właściwego miejsca):

Źródło: fpme.opole.pl (UO) / Wykładnia

Telemarketing z perspektywy UOKiK

Wiceprezes UOKiK, Dorota Karczewska, wydelegowała osobę (Katarzyna Araczewska), która przedstawiła za nią bardzo ciekawy referat pt. “Telemarketing z perspektywy UOKiK”.

Zdaniem UOKiK trzeba mieć uprzednią zgodę w ogóle na kontakt w celach marketingowych za pomocą urządzenia w rodzaju telefonu. Zgoda na kontakt telefoniczny w ogóle jest więc uprzednia w stosunku do zgody na marketing. Nie można więc (nie mając uprzedniej zgody) zadzwonić do kogoś i dopiero wtedy się pytać, czy można przedstawić ofertę, bo przed wybraniem numeru trzeba mieć zgodę na samo skomunikowanie się.

Z nieprawidłowości na rynku telemarketingu zostały wymienione np. sytuację, gdy wypełniamy formularze a na samym końcu, kiedy mamy zaznaczyć zgody, czy potwierdzić wysłanie formularza, jednak rezygnujemy. Często takie formularze są “samozapisujące” (“autosejwujące” od ang. autsave) i “broker danych osobowych” (lub agregator – jak prelegentka okreslała często podmioty gromadzące dane w związku z różnymi usługami) pomimo niedokończenia przez użytkownika procesu wysyłania formularza już te dane “zaciąga” i wykorzystuje – co jest wątpliwe pod względem legalmności (np. dzwoni / pisze się do klienta z zapytaniem czy pomóc w dokończeniu rejestracji, czy ma jakiś problem, czy można mu jakoś pomóc, aby zakończył np. ścieżkę zakupową).

Ważnym poruszonym problemem jest też brak wymogu przez RODO wysłania użytkownikowi potwierdzenia wyrażonych zgód czy warunków jak w umowach konsumenckich zawieranych na odległość. Często nie jesteśmy w stanie udowodnić, że wcale nie zaznaczyliśmy danej zgody. Ja np. robię zdjęcia ekranowe poszczególnych “plansz” (“ekranów”) i zaznaczonych przeze mnie opcji, ale nie jest to rozwiązanie doskonałe. Z kolei podejrzewam, że nierzadko nie zaznaczamy jakiejś zgody a formularz w bazie odnotowuje zgodę. W każdym razie nie mamy kontroli nad tym co zostało zapisane wewnątrz systemu informatycznego usługodawcy.

Zostały też poruszone ciekawe kwestie odnośnie problematyki dowodowej. W szczególności chodzi o wyrok IV Ca 1873/16 – co do dowodów w postaci wydruków stron internetowych (osobniście uważam, że tezy z tego wyroku są zbyt kategoryczne i nie można na podstawie tego wyroku generalizować co do wartości dowodowej tzw. screenshot’ów; każdy przypadek należy moim zdaniem analizować osobno; równocześnie mocno dyskusyjne są też merytoryczne tezy z tego wyroku co do telemarketingu).

Poniżej całe wystąpienie, D. Karczewska (UOKiK): Telemarketing z perspektywy UOKiK (przy czym referat wygłosiła w imieniu Pani wizeprezes Katarzyna Araczewska). Nagranie uruchomi się od odpowiedniego momentu:

Źródło: fpme.opole.pl (UO) / Wykładnia

E-SĄD i Elektroniczne postępowanie upominawcze

Prof. dr hab. J. Gołaczyński oraz mgr. M. Dmitriuk (UWr) wygłosili wykład pt. “Elektroniczny sąd a sztuczna inteligencja w prawie polskim“. Stwierdzili oni, że obecnie mnamy do czynienia z “mechanizacją” postępowania cywilnego (np. tzw. e-sąd i EPU) – z udziałem jednak “rąk ludzkich”. Natomiast zdaniem Profesora, należy wreszcie zwerwać z fikcją zaangażowania sędziego lub referendarza w wydawanie elektronicznych nakazów zapłaty (chodzi o elektroniczne postępowanie upominawcze, jakie funkcjonuje w Polsce już od 2010 roku).

Należy zerwać z fikcją zaangażowania sędziego lub referendarza w elektronicznym postępowaniu upominawczym. Czy nie nadszedł już czas na wykorzystanie sztucznej inteligencji (AI, SI) na orzekanie w ramach e-sądu?

Zdaniem prelegentów, model samego elektronicznego postępowania upominawczego (EPU), powinien być zmieniony. Nakazy powinny być wydawane całkowicie automatycznie, tylko “upomnienie” winno wyraźnie wskazywać, iż wydano je wyłącznie na podstawie danych przedstawionych przez powoda przeanalizowanych przez system informatyczny (pozwany musi o tym wiedzieć). Powino być też tak, iż nakaz staje się prawomocnym tytułem wykonawczym tylko wtedy, jak dłużnik dostał elektroniczny nakaz zapłaty bez żadnej wątpliwości (problem skuteczności doręczenia).

Poniżej całe wystąpienie, nagranie uruchomi się od właściwego fragmentu:

Źródło: fpme.opole.pl (UO) / Wykładnia

Kongres Futurologiczny czyli konosament a blockchain

Jednym z najbardziej niezwykłych wystąpień, było wystąpienie dra Wociecha Wiewiórowskiego (Zastępcy Europejskiego Inspektora Ochrony danych, EIOD). Dotyczyło ono blockchain i wykorzystania tej technologii rozproszonego rejestru dla celów “elektronicznego indosu” przy przenoszeniu praw z papierów wartościowych na zlecenie.

Wystąpienie dra W. Wiewiórowskiego (zastępcy EIOD), pt. “Konosament a blockchain. Możliwości wykorzystania technologii rozproszonego rejestru dla celów ‘elektronicznego indosu’ przy przenoszeniu praw z papierów wartościowych na zlecenie” jest na tyle wyjątkowe (odniesienie do kultowego opowiadania Stanisława Lema pt. “Kongres futurologiczny” w podtytule tej części sprawozdania jest nieprzypadkowe), że trudno je oddać słowami, więc proponuję po prostu obejrzeć nagranie (koniecznie w całości) – poniżej (po kliknięciu na poniższe wideo, odtwarzanie zacznie się oczywiście od właściwego momentu):

fpme.opole.pl (UO) / Wykładnia

Głębokie uczenie a prawo autorskie

Technologia głębokiego uczenia (uczenia maszynowego) mieści się w obszarze badań nad sztuczną inteligencją. Eksplozja rozwoju tej dziedziny nastąpiła tak naprawdę dopiero pod koniec pierwszej dekady XXI wieku – dopiero wtedy uzyskaliśmy odpowiednio duże moce obliczeniowe i odpowiednio duże zasoby danych, którymi można by „nakarmić” sztuczną inteligencję (dostępność dużej ilości danych).

Głębokie uczenie (ang. deep learning) jest odpowiedzialne za większość tego, co w opinii publicznej kojarzy się ze sztuczną inteligencją.

Ciekawym przykładem możliwości rozwoju badań w połączeniu z marketingiem, jaki został przedstawiony przez mecenasa Okonia był „Następny Rembrandt” (ang. „The Next Rembrandt”), projekt reklamowy Banku ING w ramach którego wykorzystano metodę głębokiego uczenia do stworzenia obrazu w stylu Rembrandta.

Technologie te są również z powodzenim wykorzystywane np. w systemach tłumaczenia maszynowego, których rozwój wspiera wielojęzykowa Unia Europejska (np. tłumaczenie dyrektyw na języki krajów członkowskich). Z kolei niedawny tzw. „Google-Doodle” pozwalał zharmonizować w stylu Jana Sebastiana Bacha dowolną linię melodyczną. Można było sprawdzić np. jak brzmiałyby w stylu Bacha popularne piosenki.

Z wykładu w dalszej części poznamy znaczenie pojęć takich jak: „głębokie uczenie”, „sieci neuronowe” czy „sieci wielowarstwowe”. Technologie powodują, że nie musimy definiować np. kota, ale wystarczy „nakarmić” je odpowiednią ilością danych co do kotów jak zdjęcia, filmy itp., żeby sieć sama nauczyła się co to kot i zaczęła rozpoznawać to zwierzę.

Powstaje pytanie ile potrzeba danych, żeby sztuczna inteligencja się nauczyła pewnych rzeczy? Np. Google wykorzystał 11 tysięcy powieści w celu usprawnienia generowania zadań w języku naturalnym. Wszystko zależy od rozwiązywanego problemu.

Pytanie czy dane, którymi karmimy są chronione i w jaki sposób? Problem jest jeżeli mielibyśmy np. zawrzeć 11 tysięcy umów z autorami powieści na wykorzystanie ich dzieł do maszynowego uczenia inteligentnych maszynowych tłumaczy opartych na SI?

Pojawia się problem czy możemy do uczenia sieci neuronowych wykorzystać utwory chronione prawem autorskim? Pojawia się problem prawa, które w prawie europejskim jest sformułowane maksymalnie szeroko – prawa do zwielokrotniania.

Czy możemy jednak założyć, że pewne czynności w związku z maszynowym uczeniem nie są jednak zwielokrotnieniem ingerującym w monopol prawnoautorski podmiotów uprawnionych w utworów, którymi „karmimy” sztuczną inteligencję?

Odpowiedź na to pytanie, przynajmniej częściową, znajdziecie w wystąpieniu mojego Szanownego Kolegi, Dra Zbigniewa Okonia, w wystąpieniu pt. „Prawo autorskie – czy zapewnia odpowiednią infrastrukturę prawną dla rozwoju sztucznej inteligencji?” – poniżej (wideo uruchomi się od właściwego momentu):

Źródło: fpme.opole.pl (UO) / Wykładnia

Dane jako paliwo dla AI a ochrona sui generis baz danych

Wykład mojego Szanownego Kolego mgra Romana Biedy z Centrum Problemów Prawnych Techniki i Nowych Technologii WPIA UO w drugim dniu 5FPME, pt. „Dane jako paliwo dla AI. Czy prawo sui generischroni zbiory generowane przez urządzenia IOT?”, świetnie uzupełniał wystąpienia Dra Zbigniewa Okonia z pierwszego dnia Konferencji. 

Z jednej strony odnosił się do innego reżimu ochrony – chodzi o zbiory danych, bazy danych, bo przecież tak dane, którymi karmimy sztuczną inteligencją, są przechowywane i ochronę sui generis tych baz danych, z drugiej strony poruszał modne obecnie też kwestie Internetu Rzeczy (ang. „Internet of Things”, IoT).

Prelegent powtórzył to, o czym mówił prawie każdy na Konferencji w kontekście sztucznej inteligencji i maszynowego uczenia, a mianowicie, że „karmi” się ona danymi i to danymi w gigantycznej skali („Big Data”). Natomiast słusznie zauważył, że świetnym źródłem tych danych może być właśnie Internet Rzeczy. Na przykład dane z pojazdu autonomicznego (czy układów autonomicznych pojazdów uznawanych jeszcze za „tradycyjne”), z czujników parkowania pod płytami parkingowymi, czy choćby z „inteligentnej lodówki”.

Powstaje problem czy możemy sobie tak te dane, które zazwyczaj przechowywane są w tzw. nietwórczej bazie danych (chronionej ewentualnie prawem sui generis producenta do bazy danych), „zaciągać” (w celu np. „nakarmienia” SI) i w jakim zakresie. Gdzie jest kryterium istotnego jakościowo lub ilościowo nakładu w stworzenie takiej bazy (co jest przesłanką ochrony sui generis). Czy jak pobieramy porcje danych nie mające samodzielnego znaczenia z takiej bazy danych, to naruszymy prawa sui generisproducenta bazy danych?

Częściowo na powyższe pytania znajdziecie odpowiedź w wystąpieniu mgra Romana Biedy z Centrum Problemów Prawnych Techniki i Nowych Technologii WPIA UO pt.: „Dane jako paliwo dla AI. Czy prawo sui generis chroni zbiory generowane przez urządzenia IOT?” – poniżej:

Źródło: fpme.opole.pl (UO) / Wykładnia

Wykorzystanie Sztucznej Inteligencji do Spraw Spadkowych

Połączenie problematyki prawa spadkowego z nowymi technologiami to specjalność prof. KAAFM dr hab. Mariusza Załuckiego (KAAFM). Profesor już w 2016 roku jeszcze na „2 Forum Prawa Mediów Elektronicznych „Europa Cyfrowa”(TAG: FPME), zastanawiał się nad „konsekwencją śmierci w systemach teleinformatycznych”, zaszczycając nas jako słuchaczy arcyciekawym wykładem pt. „Prawo spadkowe a serwisy społecznościowe (śmierć a ochrona danych osobowych)”, co zainspirowało mnie do napisania artykułu pt. „Dziedziczenie cyfrowe, czy konto społecznościowe (np. na Facebooku) można odziedziczyć w spadku po zmarłym?”.

Tym razem Profesor skoncentrował się na nieco innej problematyce, a mianowicie na perspektywie wykorzystania AI do spraw spadkowych. Choćby ze względu na przewlekłość postępowań sądowych, nawet w trybie nieprocesowym, powstaje pokusa do zastąpienia sędziów tradycyjnych maszynami cyfrowymi – komputerami, robotami, „sztuczną inteligencją” – jak je nazwiemy nie ma znaczenia.

Powstaje pytanie jak się mają nowoczesne technologie i zaprzęgnięcie choćby tzw. słabej sztucznej inteligencji do prawa spadkowego, które z natury rzeczy powinno być stabilne.

Jednak, jak stwierdził prelegent, potrzeby zmian pojawiają się i tutaj. Postępowania są nieefektywne i sam zresztą już ustawodawca dawno z tego względu rozszerzył kompetencje w sprawach dotyczących dziedziczenia na organy niesądowe – np. notariusz może sporządzić poświadczenie dziedziczenia.

Okazuje się, że z różnych badań wynika, że co najmniej 70% rozstrzygnięć „orzeczników ludzkich” w tego typu sprawach było prawidłowo przewidzianych przez komputery na podstawie stosownych algorytmów eksperckich.

Natomiast, oczywiście odnośnie rozstrzygania spraw przez AI budzą się też różne wątpliwości, a mianowicie związane z:

  • prawem do sądu
  • automatyzmem AI
  • zakresem kategorii spraw, które mogą być ewentualnie rozstrzygane
  • mechanizmami ochronnymi

Wydaje się jednak, że w prostych sprawach, jak nabycia testamentu w drodze dziedziczenia ustawowego lub na podstawie testamentu niekwestionowanego, jak najbardziej decyzje mogłyby zapadać w sposób w pełni zautomatyzowany.

Pozostaje tylko sprecyzować kategorie spraw, które mogą być rozstrzygane przez SI no i system musi być powiązany oczywiście z aktami stanu cywilnego. Dodatkowymi wątpliwości budzi jednak brak rozwoju orzecznictwa przy takim automatycznym rozstrzyganiu spraw i brak dostawania do zmian społecznych.

Więcej szczegółów dostarczy Państwu nagranie wideo z wystąpieniem Profesora, zatytułowane „Wykorzystanie sztucznej inteligencji do rozstrzygania spraw spadkowych” – z którym można zapoznać się poniżej (oczywiście odtwarzanie rozpocznie się od właściwego momentu):

Źródło: fpme.opole.pl (UO) / Wykładnia

Sztuczna Inteligencja – Osoba Sztuczna?

Dr Mariusz Uliasz omówił między innymi postulaty przyznania AI osobowości prawnej. Od uznania SI za osoby prawne poprzez modele gdzie SI miałaby przyznany jedynie wąski zakres zdolności prawnej, wtedy mówilibyśmy o tzw. wycinkowej zdolności prawnej. 

Jeżeli chodzi o tzw. silną sztuczną inteligencję, oczywiście mówimy tu raczej wciąż jeszcze o przyszłości. Mówiąc o silnej SI, mamy na myśli program lub maszynę zdolną nie tylko do samouczenia, potrafiącą podejmować samodzielne decyzje, bez bieżącej kontroli i ingerencji osób trzecich, ale wręcz o bycie zyskującym pewną „samoświadomość”, „poczucie” swojej własnej odrębności, swojego „istnienia”.

Należy zastanowić się jakie są warunki przyznania zdolności prawnej jakimkolwiek jednostkom w ogóle w szerokim tego słowa znaczeniu – chodzi zarówno o ludzi – osoby fizyczne, jak i jednostki nie będące osobami fizycznymi, a zatem w chwili obecnej w prawie polskim są to osoby prawne czy tzw. ułomne osoby prawne (jak np. spółka komandytowa).

W doktrynie prawa mówi się o dwóch takich warunkach (teoria woli i interesu):

  • zdolność do posiadania własnego interesu(zdolność do samodzielnego określania celów działalności) – zbadania celów, zdolność samodzielna związana ze zdolnościami poznawczymi (jest to coś, z czym kojarzymy rozum – zdolność poznawania i naturalnie przymiot ten przypisujemy oczywiście osobom ludzkim)
  • zdolność do zaspokajania interesu pod ochroną prawną(zakres wolności przyznany i chroniony przez prawo w znaczeniu przedmiotowym); zdolność do rozwijania własnej samodzielnej działalności zmierzającej do osiągniecia zamierzonego, wybranego, ustalonego rezultatu

Powyższe zagadnienia związane są z odwieczną dyskusją o istocie prawa podmiotowego – pomiędzy zwolennikami teorii woli i teorii interesu.

Naturalnym podmiotem, który spełnia te warunki jest człowiek, który ma zdolność poznawania (atrybut rozumu) i wolną wolę – niezbędną do tego, żeby rozwijać działalność celową i korzystać z wolności, która jest niezbędna, aby wykonywać prawo podmiotowe.

W przypadku osób prawnych czy jednostek organizacyjnych nie będących osobami prawnymi, ale mającymi zdolność prawną (tzw. ułomne osoby prawne) , „wola” czy „cele”, interesy tej osoby, to pochodna woli i interesów ludzi, którzy stoją za jej działalnością. Znamy tezę, że do działania osoba prawna potrzebuje ludzi, w istocie jej wola i interes to wola ludzi – np. wchodzących w skład organów (zgodnie z teorią organów, osoba prawna działa poprzez swoje organy, np. zarząd, w skład którego wchodzą przecież ludzie).

Teraz trzeba przenieść te warunki i zaaplikować do bytu jeszcze dobrze nam nie znanego, którego możliwości są jeszcze nie do końca znane (a nawet nie do końca jesteśmy w stanie je w pełni przewidzieć), czyli do tzw. silnej (zaawansowanej) sztucznej inteligencji.

Pytanie, czy silna sztuczna inteligencja może mieć czy też – powiedzmy raczej – będzie miała być może w przyszłości, potrzebę i możliwość realizacji własnych celów? Zdaniem Doktora Uliasza, wydaje się, że tak. Na pewno w przyszłości nie jesteśmy w stanie wykluczyć takiej ewentualności. Wtedy taka SI będzie mogła ustalać sama cele działania. Powstaje jednak pytanie, na ile będzie to aktywność samoistna. A na ile zdeterminowana (do jakiego stopnia?) ustawieniami osoby – dysponenta ustawień / programisty itp. Te pytania zostają otwarte.

Natomiast odnośnie wolnej woli silnej SI mamy większy problem – AI zapewne będzie miała coraz szerszy zakres swobody, ale w powiązaniu z ustawieniami zadanymi przez twórcę / dysponenta – trudno żeby wytwór sztuczny podejmował takie aktywności, które w ogóle nie zostały przewidziane w aplikacji obsługującej taki byt (choć w przyszłości nie da się tego chyba zupełnie wykluczyć – co, moim już zdaniem, jest zarówno fascynujące, jaki budzi grozę – RC).

Podsumowując, czy możemy zatem mówić w przypadku sztucznej inteligencji o wolnej woli w klasycznym rozumieniu? A może należy na nowo określić pewne pojęcia? Ustawodawca może nadać po prostu byt prawny sztucznej osobie, nie operując pojęciami charakterystycznymi dla osób fizycznych. Pytanie czy jesteśmy gotowi?

Zapraszam do zapoznania się z całym wystąpieniem doktora Mariusza Uliasza (SR Lublin-Zachód) pt. „Sztuczna inteligencja – osoba sztuczna” – poniżej nagranie (po kliknięciu wideo uruchomi się od odpowiedniego czasu):

Źródło: fpme.opole.pl (UO) / Wykładnia

Sprawozdanie jest w trybie ciągłym “na żywo” uzupełniane o relację z kolejnych wystąpień. Zapraszam do regularnego odwiedzania strony i sprawdzania aktualizacji…


Komentarze