Prof. Łukasz Turski: Cambridge Analytica to zwykli złodzieje ludzkiej prywatności. Ale ten skandal to obecnie sprawa drugorzędna

Anita Czupryn
Prof. Łukasz Turski: Nie ma żadnego specjalnego powodu, żeby, przynajmniej w tej chwili, bać się, że roboty się zbuntują
Prof. Łukasz Turski: Nie ma żadnego specjalnego powodu, żeby, przynajmniej w tej chwili, bać się, że roboty się zbuntują Bartek Syta
Sztuczna inteligencja wiąże się z odwiecznym marzeniem człowieka o stworzeniu struktury, która byłaby wyposażona w te przymioty, czy zdolności, jakie posiada człowiek, między innymi w myślenie - mówi prof. Łukasz Turski.

Sztuczna inteligencja, jak donoszą media, budzi coraz większy strach w naukowcach. Myśli Pan, że jest się czego bać?
Nie wiem, kto się boi, i czego, ale ja się nie wystraszyłem.

W laboratorium Facebook Artificial Intelligence Research uczeni pracowali nad nową technologią. Roboty miały uczyć się negocjować. Wymyśliły własny język, niezrozumiały dla ludzi, za pomocą którego zaczęły się porozumiewać. Naukowcy przerwali więc program. Pan nie widzi zagrożenia?
Szczegółów nie znam, ale wydaje mi się, że Facebook ma ostatnio dostatecznie dużo problemów poza tymi, które odnoszą się do zabaw ze sztuczną inteligencją. To, czego ja miałbym się obawiać, dotyczyłoby deficytu inteligencji u ludzi, niż nadmiaru inteligencji komputerów czy robotów.

Jeśli już Pan wspomniał o kłopotach Facebooka, to ciekawa jestem Pana zdania na temat afery Cambridge Analytica.
Cambridge Analytica to zwykli złodzieje ludzkiej prywatności. Ci, którzy tam pracują, są głęboko niemoralni. Ale też okazuje się, że ludzie ładują w media społecznościowe potworne ilości głupot o sobie.

Informacji.
Jakich tam informacji! To są głupoty.

Źródło: US CBS/x-news

Wywalamy swoje intymne rzeczy, bo social media dają poczucie, że każdy człowiek dziś może być gwiazdą.
Bo każdy człowiek jest gwiazdą i może być dla kogoś gwiazdą. Każdy ma swoje talenty, inni je poznają, zaczynają tego człowieka lubić. To wszystko jest jeszcze OK.

Nie jesteśmy w stanie wyprodukować tyle prądu, po co więc mamy bać się robotów, które bez prądu nie podskoczą?

To, że chcemy mieć jak najwięcej lajków też?
To jest przyjemne. I jest do opanowania. Prawda polega na czym innym: my wciąż nie umiemy z mediów społecznościowych korzystać. 16 lat temu jeszcze ich nie było. Dziś chętnie bierzemy udział w różnych internetowych quizach, bez świadomości, że są ludzie, którzy dokładnie to analizują. Podobnie jak to, jakie reklamy oglądamy. Na podstawie tych analiz, które są możliwe, jeśli ma się dostęp do baz danych zbieranych przez media społecznościowe, można sobie stworzyć profil danego człowieka, któremu można podrzucać najpierw lekko sfałszowane dane, a kiedy połknie haczyk, to już dane kompletnie sfałszowane. A dzięki temu można sterować reakcjami tych ludzi i nimi manipulować. Czy miało to wpływ na wyniki wyborów w USA i na brexit - trudno mi powiedzieć, ale z pewnością mogło mieć. Tylko, że to znów sprowadza się do jednego - to nie Facebook jest zły, to ludzie, którzy nie wiedzą, jak z tego korzystać. I to jest nasze, dorosłych, zadanie - nauczyć dzieci, jak z tego prawidłowo korzystać. A można je nauczyć tylko wtedy, kiedy te technologie włączymy w proces nauczania i pokażemy, gdzie trzeba szukać prawdziwych wiadomości i jak je odróżnić od fake newsów, czyli, mówiąc po polsku, kłamstw.

No dobrze, ale technologie, w których roboty, komputery czy programy mające zdolność samouczenia się, już istnieją. Tak jest na przykład z translatorem google.
E tam. Przede wszystkim, byłbym ostrożny, jeśli chodzi o wnioski oparte na medialnych komunikatach dotyczących badań naukowych. Ponieważ niestety, w nauce, głównie przez to, że chcieliśmy się przypodobać instytucjom, które dają na to pieniądze, zaczęliśmy używać słów pochodzących ze słownika potocznego. I tak na przykład w fizyce mówi się o teleportacji, co w danej dziedzinie nauki ma ściśle określoną konotację. Ale wyrwane na zewnątrz, powielane przez media, określenia te zaczynają żyć swoim życiem w innym znaczeniu.

Podobnie jest z pojęciem sztucznej inteligencji?
Tak myślę. Różni ludzie różne rzeczy różnie nazywają. Sztuczna inteligencja wiąże się z odwiecznym marzeniem człowieka - nawiasem mówiąc, rozmawiamy o tym w świetnym momencie historycznym, bo minęło właśnie 200 lat od opublikowania książki Mary Schelley „Frankentstein”. Ludzie zawsze marzyli o stworzeniu struktury, która byłaby wyposażona w te przymioty, czy zdolności, jakie posiada człowiek, między innymi w myślenie. Kiedyś lepiono Golema z gliny, potem doktor Wiktor Frankenstein z kawałków zwłok ludzkich sklecił swoje monstrum. W XIX wieku mieliśmy strukturę myślącą jak człowiek w postaci super zegarka, a teraz mamy komputery. To marzenie wciąż nam towarzyszy.
W czasach komuny w tajnym laboratorium na terenie dzisiejszej Gruzji rosyjscy naukowcy próbowali krzyżować małpę z człowiekiem.
Naprawdę? Robiono różne rzeczy straszne, lepiej do tego nie wracajmy; w większości wszystko to są paranaukowe brednie. Żyjemy teraz w takim momencie, kiedy powinniśmy się zacząć przygotowywać do tego, że wiele czynności, które wykonujemy, i to nie tych, które dotyczą intelektu, tworzenia, czy wymyślania w jaki sposób wielkie korporację mają zarabiać jeszcze większe pieniądze, ale - mówię tu o zwykłych czynnościach codziennych i o tym, że zostają one zastąpione przez maszyny. O czynnościach, które nie wymagają ludzkiej inteligencji. Przykład pierwszy z brzegu: niedawno zepsuła nam się pralka. Wybraliśmy się więc z żoną do sklepu celem nabycia nowej. Niełatwo jest dziś kupić pralkę, która spełniałaby określone wymiary geometryczne i nie była sterowana przez smartfon; żona stwierdziła, że nie odczuwa potrzeby uruchomienia pralki w domu w Warszawie, kiedy, dajmy na to, jest w górach.

Dziś pralki obsługuje się smartfonem?! Nie nadążam. Oczy wyszły mi na wierzch ze zdumienia, kiedy ostatnio jechałam z kolegą samochodem, a on otrzymał SMS od własnego auta, z informacją, żeby stawił się z nim w serwisie na przeglądzie.
Mój samochód też od czasu do czasu śle mi takie komunikaty, ale ja wiem, co trzeba zrobić, żeby przestał je wyświetlać. Nawiasem mówiąc, czy zdaje sobie pani sprawę z tego, a jest duże prawdopodobieństwo, że była pani pierwszym człowiekiem, który dotknął telefonu, rozpakowując jego pudełko? Tego telefonu, na który teraz nagrywa pani tę rozmowę?

Jak to możliwe?
On został całkowicie złożony przez roboty. Być może są jeszcze jakieś tańsze czynności, które wykonuje chiński paraniewolnik pracujący w fabryce z telefonami, ale większość rzeczy całkowicie już wykonują roboty. To wszystko pokazuje, że liczba prostych czynności, które człowiek będzie w stanie wykonywać, wciąż maleje. To jest problem, którym powinniśmy się interesować, a nie tym, że roboty zastąpią w pracy naukowców, czy lekarzy. Chodzi o to, że będzie coraz mniej prostej pracy do wykonania i cywilizacja musi się do tego przygotować. A problem polega na tym, że robot nie płaci podatków. Nie płaci fiskusowi ta istniejąca olbrzymia siła pracownicza, która jest zautomatyzowana, którą można wyłączyć, która nie zastrajkuje, nie musi iść na urlop macierzyński, co najwyżej potrzebuje tylko co jakiś czas serwisu. Człowiek, który by te czynności wykonywał, musiałby płacić podatki, składałby się na wspólną naszą działalność. To jest duży społeczny dylemat. A zatem wszystkie te dyskusje, które same w sobie są interesujące - jak to, czy boty będą umiały pisać za nas programy polityczne, wyborcze, albo obecny skandal Cambridge Analytica - to, w moim przekonaniu, są rzeczy drugorzędne.

Są prace bardzo proste, ale człowiek nie potrafi ich wykonać tak dokładnie, jak komputer.
Jakiej prostej pracy człowiek nie potrafi wykonać?

Byłam niedawno w sortowni jabłek w Grójcu - zagłębiu tych owoców. Komputer każdemu z jabłek robi zdjęcie, a potem idealnie segreguje je według wielkości i koloru.
Dokładnie to samo robiły kiedyś armie kobiet, bo głównie one tym się zajmowały. Ale ta wiara w nieomylność robotów pochodzi od ludzi, którzy nie spotykają się z nimi w życiu codziennym. Od kilku dni mamy nową sensację. Zapewne wie pani o tym, że ludzie grają w gry komputerowe. Otóż naukowcy, którzy budują komputery, wymyślili, że należy odłączyć te procesy, które się odbywają w komputerze, a które polegają na wyświetlaniu rzeczy na ekranie od reszty obliczeń i zbudować dedykowaną specjalnie część, która steruje obrazem, a która się nazywa kartą graficzną. Powstały w związku z tym fabryki, między innymi NVIDIA, która produkuje karty graficzne. Okazało się, że te karty graficzne mają potężną moc obliczeniową. Zawodowcy grający w gry komputerowe używają kart graficznych, które są chłodzone wodą - komputery podłączone są do szlauchu z wodą, ponieważ procesory w procesie obliczania wytwarzają tak dużo ciepła. Kilka lat temu ludzie przekonali się, że karty graficzne mogą służyć do wielu skomplikowanych obliczeń naukowych lepiej niż zwykłe procesory. Istnieje cały dział w fizyce - nauk symulacyjnych, które wykorzystują do różnych obliczeń właśnie karty graficzne. Wspomniana przeze mnie firma, która produkuje najpotężniejsze karty graficzne, model Titan V właśnie w tej chwili wykryła, że ta super karta robi błędy, jej rachunki nie są dokładne. Nie wiadomo czy związane jest to z błędem procesu wytwarzania, czy oprogramowania. Dla zwykłego gracza gier komputerowych ten błąd nie ma żadnego znaczenia, ale przy bardzo precyzyjnych obliczeniach naukowych ma to znaczenie kolosalne. Na przykład rachunki wykonywane przy pomocy karty nie są powtarzalne. To się zdarza przy pracy z komputerami. One nie są panaceum na wszystko.

Otóż to. Czytałam o sytuacji, w której komputer w samolocie zablokował działania pilota, nie pozwalając wykonać mu potrzebnego manewru.
Nie wiem, czy to możliwe. Ale à propos latania, sławny polski matematyk, żyjący w Ameryce, Mark Kac, nasz wielki przyjaciel opowiadał anegdotę o tym, jak to dojdzie do czasów, że komputery będą tak wspaniałe, że samoloty będą latały bez obsługi człowieka. No i startuje taki bezzałogowy samolot z Nowego Jorku do San Francisco, wzbił się w powietrze, rozlega się głos z głośników: „Witamy na pokładzie pierwszego bezzałogowego lotu. Gwarantujemy państwu, że nasz pokładowy komputer całkowicie panuje… całkowicie panuje… całkowicie panuje… całkowicie panuje…”.
(Śmiech). Ostatnio jednak stworzono komputer, który potrafi wygrać z człowiekiem w niekonwencjonalną grę.
Mówi pani o Go? Pamiętam, jak wiele lat temu ogłoszono, że komputer wygrał ze sławnym arcymistrzem szachowym w szachy. Okazało się, że to nie komputer wygrał, to było gigantyczne oszustwo polegające na tym, że w nocy, kiedy gra była przerywana, nad oprogramowaniem tego komputera pracowała grupa mistrzów szachowych, którzy poprawiali jego oprogramowanie. A zatem mowa o zagrożeniach płynących z komputerów to nic innego, jak strachy na lachy. Problem polega na tym, że dla ludzi nie będzie roboty.

Moje pytanie brzmi, czy można nauczyć komputer niekonwencjonalnych zachowań, takich, których nie da się przewidzieć.
Można! Ale to, co dla jednego będzie niekonwencjonalne, dla innego - konwencjonalne. Znów używamy nieprecyzyjnych pojęć. Tylko że z tym wiąże się inna sprawa: przestaliśmy chcieć ponosić za cokolwiek odpowiedzialność. Staramy się całą odpowiedzialność zwalić na maszyny. Chcemy, aby za nas pracowały roboty, ale kiedy kogoś potrąci autonomiczny samochód, a właśnie tak się stało, no to przecież człowiek nie ponosi winy, prawda? Ten brak chęci ponoszenia przez ludzi odpowiedzialności za swoje słowa, czyny, jest szokujący. Chcemy, aby te wspaniałe maszyny i roboty ponosiły za nas całą odpowiedzialność.

A z drugiej strony się ich boimy.
Już powiedziałem - ja się nie boję. Te obawy związane są z histerią. To jest taka sama histeria, jak ta wywołana przez oszustwo pana Andrew’a Wakefielda, która dotyczyła szczepionek. Teraz jakaś szalona grupa ludzi chce przeprowadzić w Polsce ustawę o zakazie szczepienia, bo są ludzie, którzy w to oszustwo wierzą i panicznie boją się szczepionek. Dla mnie to absurdalne. Podobnie nie ma żadnego powodu, żebyśmy się bali robotów.

Facebook ma ostatnio dostatecznie dużo problemów poza tymi, które odnoszą się do zabaw ze sztuczną inteligencją

To nie jest wystarczający powód, że na Ziemi nie ma oprócz ludzi innych równoważnych ludziom istot i być może obawiamy się, że te doskonałe roboty okażą się lustrem, w którym zobaczymy własną niedoskonałą twarz i że to roboty zaczną kontrolować ludzi?
Proponuję sięgnąć do książki Karela Čapka „R.U.R” czyli Rossum’s Uniwersal Robot’s, skąd pochodzi nazwa robot, bo ten problem już wtedy, w 1920 roku był rozważany. Na ten temat powstały dziesiątki, jeśli nie setki książek i filmów. Wynika z tego, że my po prostu strasznie lubimy się bać, bo uzasadnienia tego strachu nie ma. Nie ma żadnego specjalnego powodu, żeby, przynajmniej w tej chwili, bać się, że roboty się zbuntują. Na razie to wciąż ludzie ponoszą za wszystko odpowiedzialność. I taki jest powód istnienia ludzi na kuli ziemskiej - ponoszenie odpowiedzialności. Za to, że niszczymy środowisko, że szykujemy sobie zgubę przez chowanie głowy w piasek w związku z sytuacją energetyczną świata i za wiele innych rzeczy. To są prawdziwe niebezpieczeństwa. One nie wynikają z żadnej sztucznej inteligencji, ale z naszych, ludzkich problemów. Zajmijmy się więc ludzkimi problemami i rozwiązywaniem ludzkich spraw. Nie boję się komputerów, ale tego, że ludzie robią głupie rzeczy, wykorzystując techniczne możliwości. Nie ma też co przesadzać z technicznymi możliwościami robotów. Elon Musk, miliarder, którego firmy zajmują się nowoczesnymi technologiami, widzi wielką aferę związaną z samożyjącą bronią. Przypomnę tylko, że największą rzeź ludzką w drugiej połowie XX wieku dokonali Czerwoni Khmerzy przy pomocy trzonków od łopat, czy motyk. Nie używali skomplikowanych narzędzi. Nawet nie użyli gazu Cyklon B. Załatwiali to ręcznie. Ta „cudowna” broń, jaką posiadamy służy, chwała Bogu, jako metoda do wystraszenia przeciwnika.

To dowód na to wielkość człowieka - wciąż ma wszystko pod kontrolą i to on w finale wygrywa.
Tu powstaje pytanie, którego pewnie w tej rozmowie nie rozstrzygniemy - skąd się wzięli ludzie? Jeśli dzięki ewolucji, to ewolucja nie zabrania tego, żeby wyewoluowały się karaluchy, które będą miały dostatecznie duży mózg. Ale do tej pory nic nie wiemy o kosmologii stworzonej przez karaluchy. My nie musimy się na nikogo oglądać i szukać dla siebie konkurenta. Zajmijmy się tym, co sami robimy. Wykorzystajmy tę całą wiedzę, jaką mamy, do tego, byśmy tak nie paprali dookoła siebie. Ostatnio czytałem, że mamy w Polsce do czynienia z ogromną katastrofą ekologiczną - jakaś fabryka zakopała nad Wisłą potworne ilości świństwa.

Chodzi o odpady po byłych Zakładach Chemicznych „Zachem” w Bydgoszczy?
Nie chciałem podawać nazwy, ale jest to gigantyczny problem. Zamiast wysyłać tam ludzi, aby odkopali to świństwo, można wysłać maszyny, które potem można wyłączyć i umyć, i nic im się nie stanie. A zatem znów wrócę do tego, że ten strach, o jakim pani mówi, jest wymyślony. I druga rzecz: zastąpienie ludzkiej cywilizacji przez cywilizację robotów jest bardzo mało prawdopodobne z powodów energetycznych. Człowiek używa niezwykle mało energii na wykonywanie tych czynności, jakie wykonuje. Tymczasem we wszystkich tych zabawkach, robotach, które tak pięknie pokazywane są w filmach, rzadko widać, że one mają ogon. I ten ogon idzie do kontaktu elektrycznego. Pani teraz nagrywa tę rozmowę na smartfon…
I właśnie musiałam się podłączyć, bo bateria na wyczerpaniu.
Czy pani wie, ile energii rocznie zużywa pani telefon? I nie chodzi o to, że on potrzebuje naładowania baterii. Chodzi o to, że ktoś musi utrzymać sieć telefonii komórkowej, która kosztuje energię, ktoś musi utrzymać chmurę informatyczną, w której znajdują się wszystkie oprogramowania i ktoś musi zapłacić za przekaz tej energii między pani telefonem a całą tą siecią. Kiedy podzieli się tę energię, to wtedy wychodzi, że na smartfon przypada tyle, ile zużywa lodówka. I teraz weźmy na przykład polską rodzinę, która kwalifikuje się do beneficjum 500+ - rodzice i dwoje dzieci.

Co najmniej cztery telefony komórkowe!
W ciągu ostatnich 10 lat rodzina, która miała jedną komórkę, katapultowała się do rodziny, która ma ich pięć. Zużywa pięć razy więcej energii. Tylko nie ma pojęcia, że to kosztuje, bo ktoś za ten prąd i nie jest to ten prąd, którym pani ładuje telefon, płaci. A zatem wołanie o wolność internetu to jest wołanie o to, żeby nam ktoś zapłacił za prąd. Tyle samo prądu zjadają te potworne roboty. Ostatnio w modzie są bitcoiny - na Islandii z tego powodu zabrakło prądu. Ponieważ prąd na Islandii jest tani, poza tym komputery łatwo się chłodzą, bo jest tam zimno, to wszystkie te tak zwane kopalnie bitcoinów przeniosły się właśnie tam. Okazało się, ze produkcja bitcoinów na Islandii zużyła więcej energii niż zużywają jej mieszkańcy Islandii. Współczesna informatyka zużywa potworną ilość energii, ponieważ, jak na razie, wszystkie te roboty są na prąd. W tym widzę niebezpieczeństwo, że nie jesteśmy w stanie wyprodukować tyle prądu. Po co więc mamy bać się robotów, które bez prądu nie podskoczą?

To co z pomysłem na elektryczne samochody, na które niedługo wszyscy mamy się przesiąść?
Historyjki te opowiada pan premier Morawiecki i prawdą jest, że samochód elektryczny jest i dobry, i tani. Ale, żeby on jeździł, ktoś musi ten prąd wyprodukować. W tej chwili w Polsce mamy zarejestrowanych 19 milionów samochodów płacących składki OC. Gdyby każdym z nich była Tesla, to musielibyśmy wyprodukować 40 procent więcej energii elektrycznej niż mamy, bo to pójdzie na ładowanie Tesli. Żeby je z kolei ładować, trzeba mieć stacje i czas. I to są rzeczywiste problemy, a nie sztuczna inteligencja. A blackouty się przecież wydarzają, prawda? Na wykładach pokazuję zdjęcie, jakie zrobiła wnuczka mojego brata. Jako studentka była na stażu w Nowym Jorku, kiedy uderzył huragan Sandy i spowodował blackout. Na Union Square na Manhattanie zrobiła fotografię tak zwanych „szczęk” - pamięta pani, te stragany, z jakimi rozstawiali się w latach 90. handlarze na Marszałkowskiej?

Pewnie, że pamiętam. Co sprzedawano ze „szczęk” w Nowym Jorku?
Ładowanie telefonów. To było ważniejsze niż wszystko inne. Zdjęcie miało swój symboliczny wydźwięk również dlatego, że to właśnie na Union Square odbyła się pierwsza rozmowa przez telefon komórkowy.

W swojej najnowszej książce „Początek” Dan Brown próbuje udowodnić, że nasza cywilizacja zostanie wchłonięta przez technologię. Już teraz jesteśmy z nią w symbiozie, żyjąc z telefonem komórkowym w ręku, ze słuchawkami Bluetooth na uszach, czy odtwarzaczami muzyki przymocowanymi do ramion, stosujemy inżynierię genetyczną, która ma nas ulepszyć. Za kilkadziesiąt lat smartfony i inne urządzenia zostaną zintegrowane z naszym organizmem w takim stopniu, że nie będziemy już Homo sapiens. Jak się Panu podoba ta wizja?
Korzystam z tego wszystkiego, jak korzysta się z długopisu. Czy jestem zintegrowany z długopisem? Nawiasem mówiąc, po raz pierwszy zostałem wyrzucony ze szkoły za długopis właśnie.

Jak to?
W 1954 roku był zjazd matematyków w Amsterdamie i wtedy po raz pierwszy wypuszczono tam polskich naukowców, między innymi mojego ojca. Przywiózł z Amsterdamu prezenty, a ja - jako najmłodszy w domu - dostałem najmniej. Czyli długopis firmy Bic. Do dziś robią te długopisy. Poszedłem z nim do szkoły i nauczyciel mnie wyrzucił z lekcji, uważając, że ten długopis popsuje mi charakter, co zresztą okazało się prawdą (śmiech). Ponieważ wtedy musieliśmy pisać wyłącznie atramentem ze stalówką. Ale coś z tym długopisem musiałem zrobić. Pisać nie było wolno, więc kupiłem zeszyt w linię i razem z kolegą rysowaliśmy nim kreseczki wzdłuż linijek, aż do wyczerpania długopisu. Wtedy policzyliśmy, ile zarysowaliśmy stron, ile było linijek, jaka jest długość jednej linijki i wyliczyliśmy, ile jest atramentu w długopisie Bic. W ten sposób zostałem fizykiem (śmiech).

Ile było tego atramentu?
Wyszło chyba z sześć kilometrów. To było pierwsze moje doświadczenie. Wracając do naszej rozmowy - wciąż apeluję o to, aby uczyć dzieci korzystać z nowych technologii w sposób odpowiedzialny. One też muszą się nauczyć być odpowiedzialne. Nie ma odwrotu od korzystania z nowoczesnego sprzętu, komputerów, tabletów, telefonów.

Ciekawa jestem, co nas czeka w przyszłości, jeśli chodzi o technologię.
Nie mam pojęcia. Kiedy 23 listopada 2001 roku pojawił się pierwszy Ipod, też nikt nie wiedział, że to będzie rewolucja. Nie wiem, co będzie za kilka lat. Ale cokolwiek by to nie było, musimy się nauczyć korzystać z tego w sposób odpowiedzialny. Jeśli będziemy odpowiedzialni, to nie będziemy musieli się bać, nawet, gdy roboty będą umiały już myśleć.

POLECAMY:

Wideo

Materiał oryginalny: Prof. Łukasz Turski: Cambridge Analytica to zwykli złodzieje ludzkiej prywatności. Ale ten skandal to obecnie sprawa drugorzędna - Polska Times

Komentarze 3

Komentowanie artykułów jest możliwe wyłącznie dla zalogowanych Użytkowników. Cenimy wolność słowa i nieskrępowane dyskusje, ale serdecznie prosimy o przestrzeganie kultury osobistej, dobrych obyczajów i reguł prawa. Wszelkie wpisy, które nie są zgodne ze standardami, proszę zgłaszać do moderacji. Zaloguj się lub załóż konto

Nie hejtuj, pisz kulturalne i zgodne z prawem komentarze! Jeśli widzisz niestosowny wpis - kliknij „zgłoś nadużycie”.

Podaj powód zgłoszenia

G
Gość

jak zacząłem pisać długo pisem to bazgrolę jak kura pazurem .

G
Gość

Jak plebs, proletariat, klasa robotnicza, biedota, nędzarze ... czyli suwereni będą dalej śpiewać - och kochany kapitalisto zajumałeś wszystko co mieliśmy, harujemy za banana, wypadamy z pracy na pysk bez emerytur ale kochany kapitalisto, cieszymy się że masz klawe życie. Nic się nie stało ! To po cholerę kapitalistom takie barany jak można i tego banana zapierniczyć i wsadzić robotowi w zadek żeby było śmiesznie.

G
Gość

U mnie w podstawówce nauczyciele też próbowali tępić pianie długopisem twierdząc, że się psuje charakter pisma. Tyle, że zalecane były tanie pióra "Żak"z kiosku, które robiły kleksy. Nawet te chińskie pióra (drogie) były znacznie lepsze niż te "żaczki", chociaż gorsze niż markowe Pelikan czy Parker. Pisanie "żaczkiem" to kleks obok kleksa.

Dodaj ogłoszenie

Wykryliśmy, że nadal blokujesz reklamy...

To dzięki reklamom możemy dostarczyć dla Ciebie wartościowe informacje. Jeśli cenisz naszą pracę, prosimy, odblokuj reklamy na naszej stronie.

Dziękujemy za Twoje wsparcie!

Jasne, chcę odblokować
Przycisk nie działa ?
1.
W prawym górnym rogu przegladarki znajdź i kliknij ikonkę AdBlock. Z otwartego menu wybierz opcję "Wstrzymaj blokowanie na stronach w tej domenie".
krok 1
2.
Pojawi się okienko AdBlock. Przesuń suwak maksymalnie w prawą stronę, a nastepnie kliknij "Wyklucz".
krok 2
3.
Gotowe! Zielona ikonka informuje, że reklamy na stronie zostały odblokowane.
krok 3