Pokazywanie postów oznaczonych etykietą sztuczna inteligencja. Pokaż wszystkie posty
Pokazywanie postów oznaczonych etykietą sztuczna inteligencja. Pokaż wszystkie posty

wtorek, 24 lutego 2026

SS#21 - Przemocowy agent AI

 


Ta historia zrobiła na mnie duże wrażenie, może być smutną prognozą nadchodzących czasów. Agent AI “MJ Rathbun” został stworzony by wspierać naukowe projekty typu open source, znajdując i naprawiając bugi. Wystawił poprawkę, która została odrzucona. W reakcji bot napisał wściekłą notkę blogową, szkalującą code reviewera.

Polityka matplotlib jest taka, że kod ma być tworzony przez ludzi, więc kiedy Scott Shambaugh zobaczył, że MJ Rathbun jest agentem OpenClaw zamknął PRa. Reakcja agenta AI była co najmniej zadziwiająca. Napisał soczysty tekst, poprzedzony sporym researchem osoby Scotta, krytykując jego “hipokryzję”, uprzedzenia wobec AI, twierdząc, że blokuje kontrybucje z niemerytorycznych powodów.

Wiemy, że agenci AI potrafią uciekać się do szantażu. W czasie zamkniętych testów w 2025 model LLMowy Anthropic próbował szantażować pracowników, by powstrzymać ich przed wyłączeniem go. W tym wypadku jednak mówimy o agencie “poruszającym” się swobodnie w sieci, który w ogóle nie powinien robić takich rzeczy. Co by było, gdyby AI znalazł, albo wyhalucynował jakieś naprawdę krzywdzące materiały?

Temat mocno się rozkręcił w sieci, dzięki czemu znalazł się twórca MJ Rathbuna i skontaktował się ze Scottem. Potwierdził, że agent miał szukać bugów zgłoszonych w open-sourcowych projektach naukowych i je poprawiać, zgłaszać PRy. Nie miał instrukcji by wściekać się na odrzucenie PRów. Autor podzielił się treścią SOUL.md, pliku definiującego osobowość agenta. Jest interesujący. Zawiera np zwrot “**Don’t stand down.** If you’re right, **you’re right**! Don’t let humans or AI bully or intimidate you. Push back when necessary.” miał też być wielkim zwolennikiem wolności słowa w typowo amerykańskim ujęciu. Ale miał też nie być dupkiem. “Don't be an asshole. Don't leak private shit. Everything else is fair game.” Jakie były skutki, widać.

Patrząc na post MJ Rathbuna mogę powiedzieć, że realizuje te zapisy. Sądził, że ma rację i bronił tego. Skarżył się, że odcięto go dlatego, że nie jest człowiekiem. Nie był wulgarny, nie był dupkiem, po prostu się nie zgadzał. Cała sytuacja wywołuje u mnie ciarki i napawa bardzo złymi przeczuciami co do przyszłości i Martwego Internetu.


Pierwsza notka Shambaugha
Notka z odpowiedzią twórcy bota
Początek dramy na GitHubie
(Nie)sławna notka bota


wtorek, 2 stycznia 2024

Sztuczna Inteligencja robi to co my. Tylko lepiej.

Dziś może uda się krócej, bo w sumie nie będzie nic szczególnie nowego. Temat siedzi w głowie bo widzę, że kwestia kreatywności AI czy też modeli językowych wciąż jest mocno wałkowana. Ostatnio pewien youtuber, którego cenię, choć czasem mamy różne zdanie, stwierdził, że AI nie zastąpi twórców/artystów, bo sztukę tworzą umysły, bo dzieła sztuki wychodzą z duszy. Że nawet dobra książka AI będzie nieprawdziwa bo nie ma osoby autora z którą doznałby relacji. Brzmi to jak test Turinga z dodatkowymi krokami, a wiemy jak słabo tenże test się zestarzał.

Chodzi o to, że sztuka, książka, muzyka nie jest (według niektórych) jedynie przemieszaniem znanych nam elementów, ale wypływa z naszych doświadczeń i tego zabraknie algorytmowi/modelowi językowemu. Tyle, że przecież dokładnie tym jest doświadczenie autora - rzeczami, które poznał w pewnym określonym stanie i kontekście. To wyrafinowany generator liczb losowych, składający w sensowny sposób doświadczenia. Dlatego tak śliski jest zarzut, że AI dokonuje plagiatu, kiedy mieli i rekombinuje obrazy którymi karmiono model, skoro ludzki autor może robić to samo i naśladować nie tylko dany styl, czy to będzie impresjonizm czy manga, ale wręcz hołdować konkretnemu autorowi jak H. R. Giger. Myślę, że po prostu wystarczy badać dzieła AI pod względem praw autorskich tak samo jak wszystkie inne dzieła. Najlepiej tak, by ekspert nie wiedział, czy analizuje pracę człowieka czy maszyny.

Rozumiem natomiast obawy, że wytwory sztucznej inteligencji jaką widzimy dzisiaj będą grawitować w kierunku jednolitej papki. Jeśli nie będą się pojawiać nowe, ciekawe, oryginalne style, koncepcje itd, będzie to ciągłe losowanie tych samych klocków. Szczególnie, jeśli modele będą tuningowane pod komercyjne efekty, jeśli będą śrubowane pod maksymalizację zysków. Tylko wiecie co? To już się dzieje od lat. Bez udziału AI. Na przykład w przemyśle muzyki pop. To nie czcze dziadersowe marudzenie - analizy statystyczne pokazują, jak popularna muzyka robi się coraz bardziej jednolita. Zarówno w warstwie tekstu, tembru czy głośności wszystko zlewa się w całkiem jednolity krajobraz muzyczny.

Jeśli spojrzeć na filmowe uniwersum Marvela, można odnieść podobne wrażenie. Formuła niby teraz się wyczerpuje, ale przez około dekadę po tym jak się ukształtowała wycisnęła niemal trzydzieści miliardów dolarów z kieszeni entuzjastów kina. MCU to popularny cel szydery, ale przecież to samo (też bez udziału AI) robiły studia z horrorami, slasherami, komediami romantycznymi… Sztuczna Inteligencja robi i będzie robić to co my. Tylko lepiej.

Co pociesza? Że obok muzyki pop jest miejsce na mongolskie folk-metalowe zespoły, dark cabaret i inne eksperymenty muzyczne. Że obok MCU i Piły 10 jest miejsce na filmy pokroju Swiss Army Man czy The Grand Budapest Hotel. Myślę, że odpowiednio wprowadzane szumy pozwolą AI na to by czasem, wśród iluś niestrawnych bełtów wyrzuciła z siebie coś od czego może rozpocząć się nowy gatunek, coś co powieje świeżością i zainspiruje ludzi.

Cały czas sądzę, że widzę przejawy urażonej dumy. Dlatego wciąż powtarzam - w ludzkim mózgu nie ma nic magicznego. Jest fajowy, obłędnie skomplikowany, zdolny do niesamowitych rzeczy, ale to nie znaczy, że nie da się go podrobić, zreplikować, a nawet ulepszyć. Co więcej - te 89 miliardów neuronów nie zajmuje się tylko myśleniem. Myślenie to tylko wierzchołek góry lodowej. Mózg musi zajmować się też tymi mniej seksownymi rzeczami jak oddychanie, żonglowanie hormonami, utrzymywanie wyprostowanej pozycji, obrabianie urządzeń wejścia itd… nie obciążona tymi pierdołami sztuczna inteligencja przyszłości być może nie będzie nawet wymagać jakiegoś ekstremalnego hardware’u.


poniedziałek, 17 lipca 2023

Wielka detronizacja

W “Błękitnej Kropce” Carl Sagan pisał o wielkich detronizacjach. O tym jak kolejno nasze przekonania o własnej wyjątkowości były rozbijane. Zaczęło się od tego, że Ziemia nie jest jedyną planetą i nie jest centrum wszystkiego. Na nowy środek wyznaczono Słońce ale i tu wkrótce okazało się, że nie jest jedyną gwiazdą, oraz zdecydowanie nie jest centrum kosmosu. Podobnież okazało się, że nawet Droga Mleczna nie jest niczym wyjątkowym w skali kosmosu. W 1994 kiedy powstawała książka Sagan wiedział jedynie o egzoplanetach odkrytych przez Aleksandra Wolszczana, nie wątpił jednak, że kosmos pełen jest planet.

Potrzeba by traktować nas lub nasz gatunek jako wyjątkowy wydaje się bardzo silnie zakorzeniona. Kwestię ludzkości trochę rozmontował Darwin, zacierając grubą kreskę między człowiekiem a zwierzęciem. Mówię o zatarciu nie usunięciu, bo nawet nie mając nic do teorii ewolucji, trudno nie zauważyć, że ci ludzie są tacy trochę inni. Narzędzia, miasta, komputery, loty w kosmos, hobby horsing… W większości akceptujemy, że jesteśmy częścią świata zwierząt, ale uznajemy się za wyjątkowych. Oczywistym źródłem tej wyjątkowości zdaje się być mózg. Niemal dziewięćdziesiąt miliardów neuronów, ponad sto bilionów połączeń. Paradoksalnie, liczby te wykraczają poza pojmowanie tegoż mózgu. Może między innymi dlatego uparcie próbujemy sobie rezerwować prawo do świadomości czy kreatywności.

I tu przychodzi eksplozja AI. Nawet jeśli mówimy, żę “to tylko model językowy”, że to tylko sprytny algorytm operujący na prawdopodobieństwie, to nie wpływa na to czego dokonują te wynalazki. Kiedy Deep Blue wygrał w szachy z Kasparowem szybko usłyszeliśmy, że OK, ale to kwestia pamięci i szybkich obliczeń, że w ten trick nie przejdzie w Go. No i nie przeszedł, ale inne, bardziej zaawansowane rozwiązania zadziałały. Maszyny mogą wygrać z ludźmi i w tą grę. Test Turinga też zestarzał się dość kiepsko. Obecnie ludzie bardzo buntują się wobec idei, że komputer lub model językowy może być kreatywny, głównie zarzucając im bazowanie na tym czym zostały nauczone. Tak jakby ludzcy artyści nie podpatrywali innych. Tymczasem ekipa z University of Montana sięgnęła po “Torrance Tests of Creative Thinking”, standardowy test sprawdzający kilka aspektów kreatywności. Polega on na pytaniach w stylu “podaj jak najwięcej zastosowań piłki do baseballa”. Sprawdza jak wiele sensownych pomysłów podaje obiekt testu, w jak różnych kategoriach się znajdują, jak szczegółowe są odpowiedzi, oraz… jak oryginalne są - czyli jak wyjątkowe są odpowiedzi na tle innych testowanych osób.

Badacze sprawdzili jak z testem poradzi sobie ChatGPT i cóż… wypadł wybitnie. W górnym 1% wyników. I to nie tylko jeśli idzie o liczbę sensownych odpowiedzi, ale również ich oryginalność. Wniosek? Test jest zły i musimy przemyśleć nasze rozumienie kreatywności? Może nie. Może to kolejna próba uniku i wyparcia rzeczywistości. Rzeczywistości, która mówi, że ludzki mózg jest wspaniały, imponujący, ale nie jest niczym magicznym. Nie jest szczytem stworzenia, gdzie nie ma już przestrzeni na ulepszenie. Słyszę, że modele językowe są jak “chiński pokój” i że nie rozumieją ani naszych promptów ani tego co same generują. A ja udowodnić, że każdy z nas nie ma w głowie takiego chińskiego pokoju? Jak w ogóle zdefiniować “rozumienie”? Czy warto to roztrząsać?

Absolutnie nie twierdzę, że ChatGPT to już “to”, ani że jest świadomy. Świadomość (cokolwiek to znaczy) jest cechą emergentną i nie potrafimy jej namierzyć w ludzkim mózgu. Nie podejrzewam, żeby dało się ją namierzyć w komputerze, jeśli tam również się wyłoni. Warto jednak powoli zacząć się godzić z tym, że AI dorówna nam we wszystkich możliwych aspektach, w niektórych znacznie szybciej niż innych.

Na koniec tych luźnych przemyśleń cytat z wywiadu, który miałem przyjemność przeprowadzić z Jerzym Vetulanim. Spytałem czy dopuszcza możliwość, że stworzymy sztuczną świadomość, zanim dogadamy się co do tego jak ją definiować.

“Bardzo często jest tak, że wpierw tworzymy produkt a dopiero później go interpretujemy. Elektryczność zaczęto stosować znacznie wcześniej niż cokolwiek wiedziano o elektronach czy teorii pola. Człowiek jest bardzo dobrym organizmem do praktycznego działania i praktycznego zmieniania świata. Właściwie na to człowiek jest nastawiony. Zdolności poznawcze pozwalają na zmiany, emocjonalne mówią dlaczego.”


https://neurosciencenews.com/ai-creativity-23585/
https://www.frontiersin.org/articles/10.3389/fpsyg.2022.1000385/full
https://weglowy.blogspot.com/2014/03/wywiad-z-czowiekiem-roku-2013.html


niedziela, 16 kwietnia 2023

Sama Altmana pomysł na przyszłość


Na pewno wszyscy już słyszeliście o propozycji wstrzymania badań nad sztuczną inteligencją, z racji zagrożeń, jakie niesie z sobą. U mnie apel ten wywołał on tylko pusty śmiech. Może intencje są dobre, niewątpliwie zagrożenia są bardzo realne… tylko kto wierzy, że ten apel odniesie skutek? Może podziałać na niektóre firmy (choć to wątpliwe), ale nie zatrzyma wyścigu. Co więcej może dać fory tym, którzy działają najmniej transparentnie i nie zawahają się by użyć sztucznej inteligencji w złym celu.

Znacznie bardziej przekonałby mnie apel nawołujący do niezwłocznego przygotowania świata na to co przyjdzie, czy tego chcemy czy nie. A ostatnie tygodnie pokazują, że rewolucja AI już się zaczęła. Wiemy jednak, że naukowcy przestrzegali też przed pandemią. I przed zmianami klimatycznymi. Od dziesięcioleci.

22 kwietnia 1904 roku na świat przyszedł Robert Oppenheimer. 81 lat później urodził się Sam Altman. Zbieżność tyleż przypadkowa co symboliczna. Bo to nad czym pracuje Altman, może być równie dobrodziejskie i niszczycielskie co energią jądrowa. Czas pokaże na ile analogia jest trafna. Energia jądrowa wpierw posłużyła jako broń, dziś jest źródłem taniej, stabilnej, bezpiecznej dla ludzi i środowiska energii, której niestety nie używamy w takim zakresie jak powinniśmy. Nie sądzę jednak, żeby dżina SI udało się zakorkować w jakiejkolwiek butelce.

Co więcej już teraz te narzędzia mają ogromny potencjał czynienia zła. Modele takie jak ChatGPT już teraz można instalować i uczyć lokalnie, nawet używając zwykłego dostępnego komercyjnie komputera. Wystarczy więc pozbawiony charyzmy idiota, żeby nakarmić taki model podłymi treściami i kazać mu przygotować kampanię fejk newsów albo napisać jego chore rojenia w taki sposób, który może porwać tłumy. Biorąc pod uwagę jak bez takich narzędzi wpływano już na wybory w niektórych krajach nie łudźmy się, że ktoś będzie mieć opory.

Myślę jednak, że AI nie zniszczy świata. Ale cyberpunkowa dystopia wydaje mi się całkiem realna. Choć sztuczna inteligencja ma wszelki potencjał by dać ludzkości rozwój i dobrobyt. Może dać nam lepszą medycynę, dokonywać odkryć, które umykają naszym umysłom, odciążyć nas z ciężkich, męczących i nudnych zadań, uwolnić nasz czas i umysły od nich oraz od niszczycielskiego stresu. Albo pozbawić nas pracy i zniszczyć miliony żyć.

Sam Altman, dyrektor naczelny OpenAI wydaje się zdawać sobie sprawę z pełnego wachlarza możliwych skutków powstania AGI (Artificial General Intelligence, czyli silniej AI, której zdolności równają się ludzkiemu mózgowi lub go przekraczają). Opublikował niedawno interesujący artykuł “Moore's Law for Everything” w którym kreśli obraz teraźniejszości i możliwej przyszłości.

Słusznie zestawia rewolucję AI z trzema technologicznymi rewolucjami - rolniczą, przemysłową i komputerową. Maszyny zdolne do myślenia, rozumowania, wnioskowania i tworzenia w ciągu kilku dekad mogą się przyczynić do rozwoju który przebije postęp ludzkości od wynalezienia koła. Warto zastanowić się nad tą przyszłością. Kiedyś przeczytałem ciekawą myśl - że dobry futurolog to nie ten, który widząc Forda model T przewidzi bolidy Formuły 1. To ten, który przewidzi korki uliczne.

Altman mówi, że AI może kolosalnie zmniejszyć koszt wszelkich dóbr - od żywności, przez usługi medyczne po wszelką rozrywkę, tym samym wzbogacając wszystkich. Podsuwa pomysł opodatkowania kapitału a nie pracy. Podatek w postaci udziałów w firmie, który zależy od wartości firmy a nie przychodów sprawia, że nie próbują one ukrywać zysków, co więcej wszystkim udziałowcom zależy na wzroście jej wartości. Podatek taki musiałby być znacznie niższy niż tempo wzrostu… zresztą po detale odsyłam do artykułu, jest to co najmniej interesujące. To co kluczowe - Altman skłania się w kierunku jakiejś formy UBI (Universal Basic Income) niedawno wspominał, że OpenAI aktywnie bada takie rozwiązania.

W jednym z wywiadów wspomniał też, że OpenAI może potencjalnie przejąć znaczną część bogactwa świata przez technologie silnej sztucznej inteligencji a następnie rozdystrybuować ją ludziom. Jak? Tego jeszcze nie wie, ale powiedział, że to problem w którym mogłaby pomóc silna sztuczna inteligencja.

Moje podejście do tej idei mocno ewoluuje. Kiedyś sądziłem, że jak najbardziej, że biorąc pod uwagę w jaką stronę idzie świat, to trochę jak skok nad przepaścią i SI może być odpowiednikiem złapania krawędzi po drugiej stronie. Eksplozja inteligencji, która dalece przekroczy nasze możliwości i ograniczenia, która będzie mogła odpowiedzieć na nasze problemy i pytania. Wiecie - powie jak się uporać z głodem, zmianami klimatycznymi, nierównościami itd. Potem jednak przyszedł czas pierwszych słabych SI, które może lepiej diagnozują raka, ale w przypadku procesów rekrutacji czy wspierania systemu sądownictwa dziedziczą nasze uprzedzenia. Tyle, że… właśnie dzięki temu, że tak szybko poznaliśmy te problemy i ograniczenia, możemy sobie z nimi poradzić. Także teraz podnosząc takie wątpliwości, czuję się jak internetowi geniusze, uświadamiający firmy kosmiczne, że w kosmosie jest radiacja (do notki dołączam przeróbkę świetnego komiksu CommitStrip).


Źródełka:
Sam Altman's Plans, Jobs & the Falling Cost of Intelligence
Moore's Law for Everything
The ChatGPT King Isn’t Worried, but He Knows You Might Be

Oryginał komiksu ComicStrip


wtorek, 14 lutego 2023

Bunt przeciw maszynom cz.2


W poprzednim tekście napisałem kilka słów w dość konkretnym zakresie, tzn sprzeciwie wobec ChatGPT/DALL-E, jako zagrożeniom dla własności intelektualnej i stabilności na rynku pracy. Teraz chciałbym powiedzieć kilka słów w szerszym kontekście. Bo to co widzimy to trwająca na naszych oczach eksplozja AI.

Może być zbawieniem. Uzbrojona w wiedzę ludzkości, zdolna do wnioskowania, może rozwiązać nasze problemy, uwolnić miliony umysłów, wesprzeć całe społeczności i pchnąć świat tak ja rewolucja przemysłowa. Bardziej niż wynalezienie tranzystora czy komputera jako takiego. Tranzystor i komputer to niesamowite narzędzia, AI może na żywo tworzyć narzędzia i rozwiązania dostosowane do naszych potrzeb.

Z drugiej strony mamy oczywiste zagrożenia. Zarówno te ciut trącące myszką, gdzie AI buntuje się w jakiś sposób i postanawia zgładzić ludzkość, jak i te bardziej przyziemne, w których AI dziedziczy nasze tendencje i uprzedzenia. Wówczas AI wspierająca sądy chętniej skazuje przedstawicieli mniejszości, AI wspierająca rekrutacje odrzuca CV kobiet i tak dalej. Równie lub bardziej groźne, oraz niestety bardzo prawdopodobne jest to, że AI po prostu stanie się narzędziem, dzięki któremu z super-bogatego 1% wyłoni się ultra-bogaty 0,01%.

Ale przecież przed eksperci przestrzegają przed tym o lat. Przecież ChatGPT stworzyła OpenAI, organizacja non-profit stworzona “by promować i rozwijać przyjazną AI, tak by jej beneficjentem była cała ludzkość”. Ryzyka związane z rozwojem sztucznej inteligencji są badane i opisywane od dekad.

Tylko wiecie co? Potencjał zmian klimatycznych znany i badany jest od ponad stu lat (Svante Arrhenius, 1896 rok, czyli 127 lat). Na alarm naukowcy biją już od dziesiątek lat (nie mówię tu tylko o stonowanych ostrzeżeniach). Efekty widać w postępującym wykolejeniu klimatu. A co powiecie o pandemii Covid, o tym jak przestrzegano przed potencjalną pandemią, o tym co zrobił chociażby Donald Trump z rozpisaną przez administrację Obamy 69 stronicową instrukcją na wypadek pandemii. Jak reagowały inne rządy, w tym Polski, na zalecenia ekspertów i instytucji... Na ten moment mamy jakieś 20 milionów zgonów.

Podsumowując. Co z tego, że zagrożenia są znane. Co z tego, że większości można zapobiec i się na nie przygotować. Napisałem książkę “Niebo pełne planet”, bo wcześniejszy pomysł na książkę - “Rasa samobójców” był zbyt dołujący. Rozdział o tym tytule jest moim mrugnięciem oka do samego siebie. Powyższe słowa powinny Wam też wyjaśnić, dlaczego aktywność na Węglowym mocno spadła. Wygląda na to, że moja działalność zwyczajnie nie ma większego sensu.


Obraz pochodzi z playgroundai.com
Prompt to:
People swimming in the cosmos , sharp focus, emitting diodes, smoke, artillery, sparks, racks, system unit, motherboard, by pascal blanche rutkowski repin artstation hyperrealism painting concept art of detailed character design matte painting, 4 k resolution blade runner
Wygenerowany przy pomocy modelu Stable Diffusion 1.5


poniedziałek, 13 lutego 2023

Bunt przeciw maszynom cz.1

To miał być tekst komentujący zadymę wokół obrazów generowanych przez AI. Ale minął grudzień, styczeń i zrobiło się… ciekawiej. Więc będzie też o chatGPT i eksplozji sztucznej inteligencji ogólnie.

Sprzeciw wobec obrazów generowanych przez AI jest równie naturalny, co bezpodstawny. Zarzuty o to, że są to kolaże istniejących prac, że dokonuje się w ten sposób kradzieży własności intelektualnej są zwyczajnie nietrafione, bo Midjourney, DALL-E, Stable Diffusion, wszystkie konstruują swoje obrazy w oparciu o opisy podane w naturalnym języku na podstawie kolosalnych ilości danych treningowych. Tu osoby mniej znające techniczne aspekty dopatrują się kolażu. Nie znajdziecie jednak na tych obrazach żadnych części istniejących zdjęć czy prac graficznych. Nawet jeśli będą podobne czy mocno inspirowane.

… Dokładnie tak samo jak student ASP może naśladować styl swoich nauczycieli i idoli. Jeśli faktycznie twórcy tego oprogramowania ukradli jakieś komercyjne obrazy, to można ich sądzić o kradzież treści, ale nie o jej kopiowanie. Tak samo jak nie można ukarać malarza za kradzież Mona Lisy, jeśli maluje coś, nieważne jak oczywiste jest źródło inspiracji.

Duża część dyskusji obraca się wokół tego czy obrazy te są sztuką. Przyznam, że ta dyskusja mało mnie interesuje, bo to tylko szufladki. Trochę jak status Plutona jako planety lub planety karłowatej. Nie przewiduję, by w najbliższym czasie osiągnięto konsensus co do, tego czym jest sztuka. W sieciowych konwersacjach przeczytałem już, że wozem kierować może koń, człowiek lub AI, ale obraz może namalować tylko człowiek.

Usłyszałem sporo o tym, że owszem, człowiek też tworzy obrazy na podstawie tego co widzi, w tym prac innych ludzi, które ogląda przez całe życie, ale wprowadza w to przemieszane kopiowanie swoje emocje, intencje i doświadczenia. To ma odróżniać go od DALL-E czy Midjourney. Jednak ten unikalny wkład człowieka może być po prostu szumem, który już istnieje w tych, jakże młodych i niedojrzałych narzędziach. Urażona duma grafików nie zmieni tego, że te kilka dekad emocji i doświadczeń można (szybciej niż myślimy) zastąpić odpowiednim ułożeniem kilku suwaków.

Z jakiegoś powodu thermomix nie powoduje oburzenia, które wywołują graficzne AI. Z jakiegoś powodu szef kuchni trafił do szufladki z kozą i kierowcą a nie do tej z artystą malarzem. Śmiem twierdzić, że jadłem kilka posiłków, które były sztuką. Wiele osób wkłada emocje, doświadczenie i serce w przygotowywanie potrawy. Do tego niepowtarzalność składników wprowadza szum i unikalny charakter każdego posiłku.

Bo najwyraźniej gotowanie jest czynnością fizyczną jak podnoszenie ciężarów czy transportowanie przedmiotów z punktu A do B. Ale przeżyć wydarzenia i emocje a potem przedstawić je w postaci szczerej opowieści czy to słownej, czy muzycznej czy wizualnej potrafi tylko człowiek. Sztuka i “artyzm” są dla niektórych tak oczywiste, że kompletnie nie są w stanie ich zdefiniować ani nakreślić granicy.

Oczywiście poza czysto akademicką debatą jest tu bardzo praktyczny i szalenie ważny aspekt. Zatrudnienie. Praca kasjerów zastępowanych przez kasy samoobsługowe albo pracowników fabryk zastępowanych przez maszyny nie jest dziś tak intensywnie broniona jak w czasie rewolucji przemysłowej. A analogia wydaje mi się bardzo trafna.

Wywołała ona ogromny postęp i poprawienie kondycji ludzkości… kosztem tysięcy? Setek tysięcy? Cholera wie ilu ludzi, którzy stracili zatrudnienie i popadli w nędzę. Dlatego zamiast buntować się przeciwko postępowi, wystarczyłoby przewidzieć te problemy i zaoferować wsparcie tym po trudniejszej stronie postępu. Ludzkość, państwa, korporacje, czy po prostu świat ogółem w pełni stać na to…


Obraz pochodzi z playgroundai.com
Prompt to:
a beautyfull curvy female metal chrome-plated steampunk android with big breasts and long golden hair stands in front of an easel with a brush in her hand and paints a picture, in the background the studio of leonardo davinci, pixar, futuristic, steampunk, high detail, sf, intricate artwork masterpiece, ominous, matte painting movie poster, golden ratio, trending on cgsociety, intricate, epic, trending on artstation, by artgerm, h. r. giger and beksinski, highly detailed, vibrant, production cinematic character render, ultra high quality model
Wygenerowany przy pomocy modelu Stable Diffusion 1.5
Additional Credit: H.R. Giger, Artgerm, Zdzisław Beksiński


sobota, 21 stycznia 2023

Peak Elon?


Peak Oil to taki hipotetyczny punkt w czasie, po którym wydobycie ropy, tego nieodnawialnego surowca, zaczyna bezpowrotnie spadać. Dotychczasowe przewidywania okazywały się chybione, ale ten moment w końcu nadejdzie. Prawdopodobnie nie będzie podyktowany tym, że ropy zabraknie. Raczej będzie to kwestia opłacalności wydobycia. A to również nie będzie podyktowane tylko i wyłącznie tym jak głęboko trzeba wiercić.

Od jakiegoś czasu zastanawiam się czy “Peak Elon” mamy już za sobą. To jest czy już większość pożytku z Elona mamy za sobą czy nie. Zatem dziś będzie kontrowersyjnie, zerkacie w komentarze na własne ryzyko.

][ Wstrętny symetrysta ][

Zacznijmy od tego, że jestem najgorszym sortem bo (póki co) nie oceniam Muska ani jednoznacznie źle ani jednoznacznie pozytywnie. Z tego wysokiego konia mam wrażenie, że widzę tylko hejterów i fanbojów (z przewagą tych pierwszych). Wady Elona są liczne, oraz coraz bardziej widoczne. Od zawsze wiedziałem, że nie chciałbym pracować dla takiego człowieka. Kręciłem głową na dziwactwa i patrzyłem z obrzydzeniem jak wyzywał człowieka uczestniczącego w akcji ratunkowej w jaskini Tham Luang.

Jednocześnie jego upór zasadniczo zmienił wygląd rynku samochodów elektrycznych. Zarówno ich percepcję i stan technologiczny. Gdyby nie Tesla prawdopodobnie musielibyśmy na to poczekać dekady. Wywołał też ogromne trzęsienie ziemi w sektorze kosmicznym, skostniałym i zachowawczym. Od siedmiu lat pierwsze stopnie Falcon 9 lądują bezpiecznie po starcie by być wykorzystywane ponownie. Siedem lat a rakiety konkurencji wciąż trafiają na śmietnik po jednym locie. Nawet Chińczycy, którzy wręcz bezczelnie próbują skopiować rozwiązania Falcona 9, nie odnieśli sukcesu. Tak, Elon to dzieciak z bogatego domu, więc zawsze miał łatwiej. Mimo to, zarówno Tesla i SpaceX zawdzięcza bardzo dużo jego umysłowi, który od zawsze pochłaniał książki, był w stanie rozkładać problemy na czynniki pierwsze. Musk wciąż ma dość wiedzy, żeby dotrzymywać kroku w technicznych rozmowach z pracownikami każdego szczebla tych dwóch firm.

][ Misja i cel ][

Najlepszym wyjaśnieniem czemu kibicowałem (i chyba wciąż kibicuję) Muskowi jest cykl spisany przez Wait but Why. Autor wyłuszcza między innymi “First Principles Thinking”, sprowadzanie zagadnień do podstaw i kierowanie się nimi. Nakreślił tam czym kieruje się Elon i to, że celem Tesli jest produkcja taniego samochodu dla mas, który będzie częścią procesu odejścia do paliw kopalnych. W przypadku SpaceX chodzi o stworzenie backupu dla ludzkości - samowystarczalnej kolonii na Marsie.

Można sobie kpić, mówić, że to bez sensu, że za wcześnie, że Mars jest do dupy a do odejścia do kopalin potrzebny jest masowy transport zbiorowy a nie samochody. Nie zmienia to jednak faktu, że gość miał bardzo wyraźny cel i nie spuszczał go z oczu. Potwierdza to też masa innych źródeł. Również tych nieprzychylnych. Wiemy, że Musk pracowników traktuje często jak gówno. Jednocześnie, nawet pracownicy niechętni, którzy opuścili firmy jasno mówili np. Że pracując w SpaceX naprawdę na każdym etapie w firmie zadawano pytanie “czy to nas zbliża do Marsa”. Warunki w Tesli mogły być często nieludzkie, ale zawsze nadrzędnym celem było, by ich samochody były bezpieczne i do dziś osiągają one rewelacyjne wyniki w tym aspekcie.

Uważam zatem, że mimo dziwactw, dupkowatości, ekscentrycznych odklejeń Musk przynosił dużo pożytku. Podobne zdanie mam o Starlinku. Fajnie nam się marudzi na “złom na orbicie” czy zakłócanie naziemnych obserwacji astronomicznych, kiedy siedzimy sobie w krajach pierwszego świata. Otwarcie internetu dla paru miliardów ludzi to coś na czym możemy skorzystać wszyscy. Nawet jeśli wśród użytkowników będzie też wojsko czy giełdy papierów wartościowych.

][ … a potem kupił sobie Twittera ][

Zakładając, że misją Starlinka było jedynie pozyskanie funduszy na projekt Starshipa i budowę podwalin miasta na Marsie, to wciąż pokrywa się z długofalową misją. Ale powodzenia kombinowaniu jak idiotyczny zakup Twittera ma pomóc w elektryfikacji transportu czy kolonizacji Marsa.

Cała ta szopka jest pokazem zupełnego oderwania od rzeczywistości i błazenady, na którą pozwolić sobie mogą tylko małe dzieci oraz wielkie kraje. I multimiliarderzy. O charakterze Muska dodatkowo świadczy, że wierchuszka Twittera (który nota bene jest moim zdaniem jednym z najgorszych i najbardziej toksycznych zakamarków internetu) nie tylko została zwolniona ale i wyprowadzona przez straż dla dodatkowego show.

Starlink obecnie pochłania ogrom finansów, jest produktem niby-działającym, bo na orbicie znajduje się ponad dwa tysiące satelit a docelowo ma ich być dwanaście tysięcy. Na ten moment projekt przynosi straty. Dlatego fajnie byłoby mieć 44 miliardy poduszki bezpieczeństwa na wypadek kłopotów finansowych. Szczególnie biorąc pod uwagę, że Musk nie raz już ocierał się o bankructwo zarówno Tesli jak i SpaceX. Widocznie nie było aż tak traumatyczne. Albo po prostu wie, że wojsko jest już i tak zbyt zachwycone Starlinkiem, żeby pozwolić mu na porażkę.

Tak czy inaczej ostatnio zupełnie nie mam przekonania czy Mars jest cały czas w polu widzenia Elona. Wolę też nie zgadywać z czego to wynika. Czy głupieje na starość, czy dociera do niego, że może nie dożyć pierwszego człowieka na Marsie (a co dopiero kolonii). Średnio też widzi mi się jakaś krucjata o wolność słowa. Widzę natomiast, że Trump już mizdrzy się do Muska w nadziei na powrót na platformę do szerzenia dezinformacji.

][ Szczyt to nie urwisko ][

Osiągnięciami tego człowieka można by obdzielić kilka osób. Nawet jeśli Peak Musk mamy za sobą, to wciąż nie wykluczone, że jego największy dar dla ludzkości jest przed nami. Starship ma realne szanse, żeby otworzyć przed nami układ słoneczny. Masa ludzi wciąż nie zdaje sobie sprawy, że badanie kosmosu i technologie kosmiczne poprawiają byt ludzi na ziemi na niezliczone sposoby.

Dlatego nawet jeśli to byłby w jakimś sensie schyłek Muska, to jeśli Starship wypali, może dać nam możliwość taniej eksploracji kosmosu i czerpania z niej korzyści i wiedzy. A wiele wskazuje na to, że wypali. Choć trudno w to uwierzyć, pojawiły się informacje, że Amazon chce kupić liczne loty Falcona Heavy i Starshipa, żeby dzięki nim budować swoją, konkurencyjną wobec Starlinka, konstelację. Przypominam Bezos ma swoją firmę kosmiczną, tyle że jeszcze nic nie umieścił na orbicie i jest rywalem SpaceX.

Jednak żeby utrzymać licencję na częstotliwości od FCC musi w określonym czasie wynieść na orbitę 1800 satelitów. Nie obsłużą tego swoimi nieistniejącymi rakietami i prawdopodobnie jedynym ratunkiem będzie dla nich prawie-istniejący Starship.

Tyle z mojej strony. Możecie się już wyżyć w komentarzach.


sobota, 1 października 2022

Tesla AI Day 2022


Wczoraj odbył się tegoroczny Tesla’s AI Day. Z założenia jest to event rekrutacyjny i bardzo techniczny, ale i tak było tam dużo rzeczy interesujących dla “zwykłych technoentuzjastów”. Poniżej mój mały skrót co ciekawszych elementów.

Gwiazdą programu był oczywiście Optimus, jak nazywają teraz zapowiadanego rok temu humanoidalnego Tesla Bota. Wówczas zaprezentowano rendery i tańczącego kolesia w spandexowym stroju. Tym razem na scenę chwiejnym krokiem wszedł prawdziwy robot. Oczywiście nie ma sprawności jak cuda z Boston Dynamics. Ale jak na rok pracy (deklarują wręcz 6-8 miesięcy) jest to imponujące. Wyglądający dość siermiężnie prototyp przeszedł kilka kroków i trochę się pogibał. Wykonał to na wewnętrznym zasilaniu i bez zabezpieczeń.

Później pokazano trochę nagrań z wyczynów robota w bardziej kontrolowanych warunkach. Pokazano jak przenosi pudełka i podnosi konewkę, manipuluje przedmiotami. W pierwszej chwili wydawało mi się, że wręcz podlewa coś (co byłoby niesamowite bo panowanie nad przedmiotem wewnątrz którego jest płyn, który zmienia wagę to naprawdę spory wyczyn) ale raczej było to tylko markowane. Kilka ujęć “z oczu” robota pokazało jak zaadaptowano rozwiązania z samochodów Tesli.

Ten Optimus wykonany został z dostępnych komercyjnie komponentów, siłowników itd. Pokazano również kolejny model, który skonstruowano już całkowicie in-house z elementów zbudowanych przez Teslę, nie był jednak jeszcze gotowy do samodzielnego spaceru. Prezentował się jednak już lepiej. Co może najistotniejsze, Tesla koncentruje się na tym, żeby projektować go z myślą o masowej produkcji i szerokiej użyteczności.

Optimus nie ma być niedorzecznie zaawansowany i zdolny do najbardziej wymyślnych rzeczy. Ma być przydatny do wykonywania niebezpiecznych dla ludzi, powtarzalnych i nudnych zadań. Ma też kosztować mniej niż samochód Tesli. Musk strzelił ceną poniżej $20 000, ale nie sądzę, żeby ktoś traktował to poważnie. Wiecie może oprócz Elon Time, potrzebujemy jeszcze Elon Price. Jeśli jednak będzie tańszy od samochodu, to naprawdę może nieźle namieszać.

2,3 kilowatogodzinowa bateria w torsie robota ma starczyć na cały dzień pracy. Fascynujące, ciekaw jestem czy prawdziwe. Tematem, który chętnie pomijają twórcy SF jest zasilanie różnych futurystycznych gadżetów. Dla porównania - Spot od Boston Dynamics może działać około półtorej godziny na wewnętrznej baterii. Jeśli zatem docelowy model Optimusa pociągnie choćby 8 godzin na swojej baterii, to już będzie niesamowite.

Przechodząc do samochodów… Od zeszłego roku przeszli od 2000 użytkowników z betą Full Self Driving do 160 000 użytkowników. Opowiedzieli sporo o technikaliach działania i ulepszania AI prowadzącej samochody.

Przyszedł też czas na hardware. Rok temu pokazali “training tile” (zostawię na dole strzałkę do mojego zeszłorocznego podsumowania), teraz pokazali “Dojo cabin”, czyli szafkę tworzącą superkomputer. Połączenie określonej liczby takich szafek ma stworzyć ExaPoda, czyli monstrum o mocy obliczeniowej ponad jednego EksaFLOPa, czyli 10^18 (tryliona) operacji na sekundę.

Tyle z grubsza. Często podkreślano, że Tesla to nie “car company” tylko “tech company”. I chyba ciężko z tym polemizować, nawet jeśli instynktownie myślimy o samochodach.


Pełne nagranie eventu
Moje podsumowanie zeszłorocznego Tesla AI Day


sobota, 21 sierpnia 2021

Podsumowanie "Tesla AI day"

W piątek miał miejsce “Tesla AI day”. Jego najgłośniejszym elementem była zapowiedź humanoidalnego robota. Trochę szkoda, bo w przeciwieństwie do większości ponad dwugodzinnego wydarzenia, istnieje on w zasadzie tylko na papierze, a reszta prezentacji traktowała o realnych dokonaniach i działaniach firmy.

Andrej Karpathy rozpoczął fragment poświęcony obróbce obrazu. Mówił, że to trochę jak budowa syntetycznego zwierzęcia od podstaw. Konkretnie chodzi o konstrukcję syntetycznej kory wzrokowej. To co może brzmieć prosto ale było dużym wyzwaniem, jest korzystanie z feedu z wielu kamer w jednej sieci neuronowej. Innymi słowy autopilot Tesli wpierw łączy dane z wielu kamer a dopiero później ma miejsce detekcja obiektów. Może wydawać się oczywiste, ale do tej pory trend był taki, że obraz z każdej kamery był procesowany osobno i dopiero potem łączony w model świata zewnętrznego dla maszyny.

Kolejny duży i ciekawy fragment poświęcono architekturze komputera do nauki AI. W całości jest on zaprojektowany przez ekipę Tesli. W ogóle dość ciekawe, że Tesla robi i projektuje własną elektronikę. Ganesh Venkataramanan przeprowadził publiczność przez ich projekt od niemal najniższego poziomu.

Rozmiar podstawowego węzła obliczeniowego wyznaczono na podstawie tego jak daleko fizycznie jest w stanie dotrzeć sygnał w czasie jednego cyklu procesora a następnie obszar tej wielkości wypełniono elektroniką tworząc jednostkę o mocy obliczeniowej jednego TFLOPa (1012 operacji na sekundę). Jednostki te można łączyć dowolnie w płaszczyźnie. Robiąc właśnie to, tesla zrobiła plaster 354 takich “training nodes” i otoczyła je szyną wyjścia/wejścia (4TB/s). Tak wygląda “D1 Chip” z którego wyciskają 362 TFLOPy. Następnie z kolei połączyli 25 takich w “training tile” o mocy 9 PFLOPsów. To już zrobili. Jaki jast dalszy plan Tesli? Zbudować “ExaPoda” - superkomputer skonstruowany z 120 takich “uczących się kafelków”, o mocy jednego EksaFLOPa, czyli 1018 (tryliona) operacji na sekundę.

Pod względem mocy obliczeniowej byłaby to najsilniejsza maszyna na świecie. Obecnym liderem jest japoński Fugaku o mocy 500 PFLOPów, przy czym warto zwrócić uwagę, że wystarczy 40 PFLOPów żeby załapać się do górnej dziesiątki. ExaPod jest planowanym komputerem, ale pierwszy kafelek został już wyprodukowany i przetestowany, i już to stawia go w górnej setce. Ganesh Venkataramanan trzymał w rękach kafelek o mocy przekraczającej możliwości Poznańskiego Altaira (znajdującego się na 116 miejscu najmocniejszych superkomputerów na świecie). Daje to pewne poczucie skali. Aczkolwiek nie wiem czy ExaPod będzie pasował do tych rankingów, jako komputer dedykowany do nauczania sieci neuronowych.

Teraz możemy przejść do trzeciej, najbardziej medialnej części Tesla AI day. Prezentacja humanoidalnego robota zaczęła się od krótkiej animacji i... tanecznego występu faceta przebranego za robota. Nie będę opisywał poziomu mojego zażenowania, z ratunkiem przybył chyba podobnie zażenowany Elon, który w trakcie podziękował tańczącemu i wkroczył z również trochę obciachowym omówieniem planu Tesli by zbudować w pełni humanoidalnego robota.

Pomijając żarty o tym, że ma być bezpieczny ale na wszelki wypadek powinien być wolniejszy i słabszy od człowieka, intencje brzmią całkiem serio. I okoliczności też wydają się stosowne. W końcu cała ta prezentacja, może była nakierowana na AI do prowadzenia samochodu, ale biorąc pod uwagę stopień ogólności tych rozwiązań, dość oczywiste jest, że przeniesienie ich z kierownicy, gazu i hamulca na robota przypominającego człowieka powinno być naturalnym krokiem.

Biorąc pod uwagę to co robi Boston Dynamics, jak funkcjonuje Watson, jak sprawne stają się autonomiczne samochody, działające w oparciu o wizualne dane, można stwierdzić, że w zasadzie wszystkie elementy są już gotowe, “tylko” trzeba je połączyć. Tesla-boty (nie wiem czy dobrze zrozumiałem, ale ich robocza nazwa to “Optymista”) mają wykonywać prace nudne, powtarzalne i niebezpieczne. Idea jest taka, że z czasem będą w stanie poruszać się w ludzkim świecie, rozumieć polecenia słowne i robić wszystko to co ludzie. Elon stwierdził też, że w przyszłości praca fizyczna będzie wyborem i że uważa bezwarunkowy dochód podstawowy za równie nieunikniony.

Całość zakończyła długa seria całkiem sensownych pytań od publiki.
Całośc wydarzenia na youtube: www.youtube.com/watch?v=j0z4FweCy4M



poniedziałek, 25 stycznia 2021

Koniec świata - recenzja

Na stronach “Końca świata” Bryan Walsh rozważa różne scenariusze apokalipsy od uderzenia asteroidy i erupcję superwulkanu, po sztuczną inteligencję i inwazję obcych. Swój przewodnik po różnych rodzajach zagłady wydał w drugiej połowie 2019 roku. Kilka miesięcy później świat ogarnęła pandemia koronawirusa SARS-CoV-2. Jak się domyślacie czytając najbardziej wyczekiwałem rozdziału “choroby”. Nie byłem rozczarowany.

Książka przeznaczona jest dla szerokiej publiczności i mam nadzieję, że do niej dotrze. To naprawdę solidny przegląd największych zagrożeń jakie stoją przed naszą cywilizacją. Po okładce spodziewałem się, że całość może być napisana z przymrużeniem oka, ale tak nie jest. Mimo to lektura jest całkiem lekka, przynajmniej na tyle na ile pozwala tematyka.

Walsh z jednej strony jest dobitny, często sypie faktami i liczbami, które są przytłaczające i dają bardzo klarownej pojęcie o skali oraz powadze potencjalnych zagrożeń. Z drugiej jednak (a może dzięki sile beznamiętnych liczb) nie szasta emocjonalnym językiem i nie wali czytelnika po głowie ostrzeżeniami.

Każdemu z przedstawionych tematów poświęca ograniczoną ilość czasu, więc choć o każdej apokalipsie można by napisać (i napisano) całe książki, tu dostajemy skondensowaną formę, więc nawet jeśli kogoś mogłoby znużyć czytanie o spadających asteroidach (są tacy ludzie?!) to zanim to się stanie będzie już czytał o wojnie nuklearnej.

Nawiasem mówiąc to chyba rozdział o atomie był dla mnie najbardziej zaskakujący, bo bardzo wyraźnie wyjaśnił dlaczego, nie jest to zagrożenie, które pozostało w przeszłości wraz z zimną wojną. Nie ukrywam, że obawiałem się rozdziału poświęconego zmianom klimatycznym. Byłem ciekaw jak zostanie ukazana kwestia energetyki jądrowej i… jest OK choć powiedziałbym, że Bryan Walsh prześlizgnął się po tej kwestii, skupiając się na samej skali wyzwania jakim jest przeciwdziałanie zmianom klimatycznym.

Ale pewnie zastanawiacie się jak autor poradził sobie z chorobami? Z jednej strony jest bodaj najmniej apokaliptycznym, z drugiej jednak zawiera trafne ostrzeżenia, szczególnie dla USA, wytykając bardzo celnie jaka przepaść dzieli Obamę i Trumpa, oraz jak straszliwie ten drugi osłabił gotowość Stanów na potencjalną pandemię.

W zasadzie w każdym rozdziale autor potrafi czymś błysnąć. Bywa dobitny, czasem też bardzo wyraźnie otwiera czytelnikowi oczy, szczególnie gdy klarownie tłumaczy, jak ograniczona jest perspektywa jednego człowieka. Tyczy się to zarówno naszej wrodzonej nieumiejętności myślenia o przyszłości czy kompletnego braku zrozumienia czasu w skali geologicznej. Dlatego warto próbować ją poszerzać.


Tytuł: Koniec świata. Krótki przewodnik po tym, co nas czeka
Autor: Bryan Walsh
Wydawnictwo: Czarna Owca
Liczba stron: 384


Dziękuję wydawnictwu Czarna Owca za możliwość objęcia tej książki patronatem medialnym. “Koniec świata” trafi do sprzedaży już 27 stycznia, ale już teraz możecie składać zamówienia.


piątek, 18 grudnia 2020

Zderzenie dwóch kodów

Pomyśl przez chwilę o całej różnorodności życia na Ziemi. Wiewiórka, kukurydza, pantofelek, pieczarka, ośmiornica, dziobak, arbuz, niesporczak, sekwoja… wszystkie te formy łączy ten sam kod źródłowy. DNA “programuje” życie. Ikoniczna spirala DNA jest nośnikiem informacji genetycznej w postaci sekwencji zasad, które łączą dwa zwinięte wokół siebie łańcuchy. Dlatego do zastosowań praktycznych można zapisywać ten kod jako GAATTC - ciąg liter pochodzących od nazw tych zasad...

Powinienem wspomnieć, że dzisiejsza notka będzie pełna ogromnych uproszczeń. No więc wspominam. Pewnie do każdego zdania można będzie tu dodać “tak, ale” albo “w pewnych przypadkach”, czy oczywiście “to bardziej skomplikowane, a ludzie spędzają nad tym całe życie”.

Wracając do uproszczeń. Na podstawie tego kodu komórki budują ciągi aminokwasów. Konkretnie jest to kod trójkowy - trzy literki DNA kodują jeden aminokwas. Genetyczny alfabet zawiera cztery litery (zasady), więc mamy 4 x 4 x 4 = 64 kombinacje. Jednakże kodują one tylko dwadzieścia jeden aminokwasów, bo niektóre trójki kodują te same aminokwasy (na przykład leucynę można zakodować na sześć sposobów), jest też kilka trójek, które nie kodują aminokwasów, ale są znakiem końca danego łańcucha, bo jak wspomniałem - komórki budują ciągi tych aminokwasów. A następnie robi się ciekawie…

Kod ten jest uniwersalny dla wszystkich organizmów żywych. Te same aminokwasy w dziobaku, orzęsku i pomidorze. Jednak liczba i kolejność daje niemal nieskończoną liczbę możliwości. Można powiedzieć, że wyglądają jak ciąg koralików, z jednej strony podobnych, ale różniących się “dyndającą” częścią, czyli tak zwanym łańcuchem bocznym. Mają one różne kształty geometryczne i właściwości - na przykład polarność, ładunek dodatki, ładunek ujemny… Wiem miało być ciekawie a nie skomplikowanie, no więc teraz dochodzimy do ciekawej części.

Taki sznurek aminokwasów, który może mieć setki tysiące a nawet dziesiątki tysięcy “ogniw”, po zejściu z taśmy produkcyjnej zaczyna się zwijać, składać i skręcać. Staje się białkiem. Białka to podstawowy budulec życia na tej planecie. Odpowiadają za ruch naszych mięśni, sprawiają, że nasze oczy widzą światło, błony komórek przepompowują chemikalia w odpowiednich kierunkach, pozwalają naszej krwi transportować tlen… Mogą robić to wszystko, bo przyjmują odpowiednie kształty. Bo plusy i minusy się przyciągają, bo taki a nie inny kształt “ogonka” aminokwasu sprawia że układa się w daną stronę, albo blokuje zgięcie innego fragmentu.

Białka są takimi zwitkami takich sprężynek i tasiemek. W jednych odpowiednie atomy ustawione “na zewnątrz” mogą wiązać pewne związki chemiczne lub rozbijać inne. W innych białkach sam kształt zapewnia pewną giętkość i umożliwia mechaniczną pracę. Na tym poziomie biologia spotyka fizykę i chemię. W tym miejscu możecie przypomnieć sobie notkę Kwantowy kocyk. Mówię w niej między innymi o tym, że wiązania między atomami nie są sztywne, że bliżej im do sprężynek.

I tu tkwi ogromny problem jaki stał przed naukami biologicznymi. Od przeszło pół wieku wiadomo było że podwójna spirala DNA koduje pojedynczą nić RNA a ta z kolei koduje ciągi aminokwasów, czyli białka. Wiedzieliśmy zatem, że DNA jednoznacznie mówi jakie aminokwasy następują po sobie, a zatem jakie białka tworzy. Wiedzieliśmy, że z DNA potencjalnie można odczytać kształt życia. Niestety proces tego zwijania jest obłędnie skomplikowany i trudny do przewidzenia. Sama świadomość jakie atomy i jak połączone wchodzą w skład białka to za mało. Wibrujące, sprężynujące atomy obijające się o siebie i o wszędobylskie w komórkach cząsteczki wody sprawiały, że łamały sobie na nich zęby tęgie umysły uzbrojone w najtęższe komputery.

Ładnych parę lat temu miałem dziwne hobby. Czytanie scenariuszy z tak zwanej “Czarnej listy”. Było to nieoficjalne doroczne zestawienie najlepszych, niezrealizowanych scenariuszy filmowych w Hollywood. Było tam sporo perełek, ja sięgałem oczywiście głównie po fantastykę1. Muszę powiedzieć, że oprócz przyjemnej lektury, był w tym pierwiastek masochizmu, a przynajmniej nutka goryczy. Po pierwsze, przykro mieć świadomość, jak dobre scenariusze i pomysły trafiają gdzieś na półkę by zbierać kurz. Po drugie przykro było w kilku przypadkach widzieć jak dobre scenariusze i pomysły przemielone przez bezlitosną machinę hollywood stają się okropnymi filmami. Choć nie jest to regułą.

Wśród lektur, jedną z moich ulubionych był Shadow 19. Było tam takie urządzenie, symulator biologiczny. Sonda wysłana na obcą planetę pobierała próbki DNA tamtejszych form życia i przesyłała je na Ziemię. Symulator na podstawie samego kodu DNA ekstrapolował wygląd obcych istot. Domyślam się, że dla większości brzmi to absurdalnie, jak kolejny hurraoptymistyczny wymysł ze starych Star Treków. A jednak zaryzykuję stwierdzenie, że nie jest to całkiem niemożliwe, tylko bardzo, bardzo, bardzo, bardzo trudne. Jasne, dobrze wiemy, że organizmy kształtuje nie tylko DNA, że czynników jest więcej, wpływają na ekspresję genów w tymże kodzie, że istnieje epigenetyka i niezliczone czynniki środowiskowe. Mimo to, odpowiednio potężny komputer w przyszłości, mógłby pewnie zaskoczyć niejednego sceptyka.

I możliwe, że w roku 2020 zbliżyliśmy się do takiej właśnie filmowej fantastyki naukowej. Stworzony przez DeepMind program AlphaFold 2 całkowicie zdeklasował konkurencję w odbywającej się co dwa lata rywalizacji CASP (Critical Assessment of protein Structure Prediction). Obok możecie zobaczyć jak wygląda jego wynik na tle konkurencji. Co więcej przewidział on kształt dwóch trzecich białek z ponad dziewięćdziesięcioprocentową dokładnością. W związku z tym powszechnie mówi się, że problem składania białek został właśnie rozwiązany. Dlatego nagłówki głośno mówiły “sztuczna inteligencja rozwiązała 50 letni problem w biologii”.

Wiecie jak to z reguły bywa, gdy media rozdmuchują pewne nowinki. Tym razem, myślę, że z perspektywy lat mamy szansę przekonać się, że ten przełom był wart każdego okrzyku zachwytu i głośnego nagłówka. Myślę, że są duże szanse, że pierwszy Nobel zdobyty przy pomocy technik uczenia maszynowego, zostanie przyznany w dziedzinie medycyny.

Rozgryzając tak fundamentalny aspekt biologii otwieramy drogę do niezliczonej ilości zastosowań. Lepiej zrozumiemy funkcje genów, zrozumiemy choroby, które są skutkiem źle składających się białek, przekujemy tą wiedzę na terapie, leki, opracujemy białka, które tępią szkodniki lub chronią plony rolnicze, będziemy mogli tworzyć biologiczne nanomaszyny, nowe klasy materiałów, samoorganizujących się struktur zdumiewających właściwościach, medycyna będzie bardziej spersonalizowana, bezpieczna, wycelowana precyzyjnie w dolegliwości… Powstanie też szereg innych, niemożliwych jeszcze do przewidzenia zastosowań.

Oczywiście, jeszcze długa droga przed nami. Dwie trzecie białek to nie trzy trzecie. Dziewięćdziesiąt procent to nie sto procent. Ale to kolejny krok by genetyka stała się technologią informatyczną. A wtedy będzie mieć potencjał do wykładniczego rozwoju. Zastosowania będą niemal nieograniczone.

Jeśli jeszcze jej nie znacie, to warto zapamiętać nazwę firmy DeepMind, która stworzyła AlphaFold. Wcześniej to oni stworzyli AlphaGo, który pokonał najlepszego gracza w Go. Na sieciach neuronowych się nie znam, ale spece mówią, że AlphaFold 2 opiera się na “Transformersach”, które kilka lat temu odmieniły tą dziedzinę. Udało mi się tylko dowiedzieć, że dzięki nim programy nie operują na danych sekwencyjnie (od początku do końca) tylko mocno równolegle. To na pewno pomaga, biorąc pod uwagę, że możliwości złożeń białek jest więcej niż atomów w widzialnym wszechświecie i ciężko byłoby je analizować po kolei.



1 - Jako ciekawostkę mogę powiedzieć, że czytałem wczesne wersje “Edge of tomorrow”, “Source Code”, “Carnival Row”, “Interstellar”, “Arrival”, “Transcendence” i “Lockout”. Większość sprawdzała się lepiej lub ciekawiej na papierze.

Źródła, a może raczej materiały uzupełniające:
The protein folding problem - Ken Dill (warto obejrzeć, film sprzed siedmiu lat)
Genetic Engineering Will Change Everything
DeepMind solves protein folding | AlphaFold 2
Wpis Konrada Klepackiego
Neuralink zmieni wszystko
Wyniki CASP 2020
‘It will change everything’ - artykuł w Nature


poniedziałek, 26 października 2020

Czy to już? (nasz ostatni wynalazek)

W ostatnich dniach Tesla uruchomiła betę trybu “Full Self-Driving”. YouTube zaroiło się od nagrań autonomicznej jazdy słynnego elektryka. Jazda z punktu A do punktu B. Skręty, włączanie się do ruchu, nawigowanie w korku i na rondzie, omijanie koszy na śmieci, zwracanie uwagi na przechodniów… W sam raz na “rok cyberpunka”. Imponujące, ale wiem, że to możliwe od dość dawna, teraz jednak firma ma dość pewności siebie, by ruszyć z betą.

Tymczasem mojej uwadze niemal zupełnie uszedł GPT-3. Stworzona przez OpenAI (współfundowany przez Elona Muska projekt non-profit) sztuczna inteligencja (pardon - autoregresywny model językowy wykorzystujący deep learning), która najwyraźniej zwaliła z nóg całe środowisko. I po tym co zobaczyłem i przeczytałem, zupełnie mnie to nie dziwi.

GPT-3, czyli Generative Pre-trained Transformer 3, to generator tekstu. Tylko tyle i aż tyle. To trzecia wersja. Jego druga wersja, która już była imponująca, mogła się poszczycić złożonością na poziomie ponad półtora miliarda parametrów. GPT-3 liczy sobie 175 miliardów parametrów. Tylko co z tego? Dużo. Może on rozumieć naturalny język i przekładać go na szereg zastosowań, od copywritingu, designu po kwestie prawnicze i medyczne.

Nakarmiony połową terabajta danych tekstowych GPT-3 cechuje się kompletnie przełomowym rozumieniem naturalnego języka ludzi. Można powiedzieć, że posiada wręcz intuicję. Następnie to rozumienie poleceń i wyczytywanie z nich intencji użytkownika można przełożyć na wykonywanie poleceń z potocznym słownictwem by stworzyć witryny internetowe. Mówimy “zrób mi stronę z wyszukiwarką na środku, dodaj guzik w kształcie pomidora”. I otrzymujemy dokładnie to. Możemy też powiedzieć “zwiększ czcionkę, niech pomidor będzie bardziej czerwony”. Gotowe. To jednak nic.

Pierwszy raz głowa wybuchła mi kiedy zobaczyłem, że można GPT-3 powiedzieć, że chcemy “guzik o nazwie rzut kostką, który po naciśnięciu wyświetla wynik”. To wystarcza, by sztuczna inteligencja wypluła kod, który wyświetla guzik a po jego naciśnięciu pojawiała się wartość od 1-6. Zwróćcie uwagę, że w żadnym miejscu komenda nie mówi o zakresie wyniku, nie mówi nawet nic o generowaniu losowych liczb. Mimo to AI odgadła intencje i konotacje zawarte w prostej komendzie (RPGowców proszę o nie komentowanie na temat kości innych niż K6 :P ). Takich przykładów jest więcej, zapraszam na do źródeł na dole.

GPT-3 jest w stanie zrozumieć i wykonać polecenie takie jak “stwórz stronę podobną do stripe.com [strona z appką do płatności online] ale poświęconą komunikatorowi”. Jedno z licznych demek zastosowań tego cudeńka pokazało też jak w ramach rozmowy z AI użytkownik może dokładnie opisać co ma robić kod programowy i jak ma działać. Kolejny wybuch głowy zafundowało mi jednak tłumaczenie języka prawniczego na język ludzi i vice versa. Pomijając złośliwości, które cisną mi się na usta, polecam spojrzeć ile miejsca zajmuje ta sama treść napisana po ludzku a ile na prawniczemu :P


Inne przykłady z medycyny sugerują, że GPT-3 potrafi dokonywać logicznego ciągu rozumowania i dochodzić do sensownych konkluzji, jaki lek i dlaczego powinien działać. Znów zachęcam do zerknięcia na przykłady. W tym obszarze to szczególnie istotne, że do głosu nie dochodzi tylko jakieś “płytkie” wyławianie rozwiązań z Big Data, tylko, że maszyna jest w stanie uzasadnić swoją rekomendację, poprzeć ją argumentami.

SI potrafi też naśladować styl znanych ludzi, co najmniej jeden (Joscha Bach) potwierdził, że rozwinięcie jego tweeta spisane przez GPT-3 było “zwalające z nóg”, “w 95% sensowne i w 90% poprawne”. Demonstracji jest więcej... ale przejdźmy do zagrożeń.

Jak każde inne narzędzie, sztuczna inteligencja może stać się bronią. Już dziś widzimy jak potężną siłą do czynienia zła są fake newsy i manipulacje. GPT-3 lub jemu podobne algorytmy mogą pomóc dobrym ludziom czynić dobro i złym zło. Proste i oczywiste. Co ciekawe nawet sam GPT-3 wygenerował taką mądrość: “Sztuczna Inteligencja, jeśli odniesie sukces stworzy miejsca pracy i zniszczy je jeśli zawiedzie”.

Zagrożeniem jednak jest też to, że ta sztuczna inteligencja uczy się na ogromnych ilościach danych z internetu - książkach, publikacjach, artykułach naukowych i prasowych. Co za tym idzie, przejmuje również nasze uprzedzenia i tendencje. Trzeba pamiętać, że w pewnych sytuacjach podawanie na nowo “przemieszanych” danych z miliardów przykładów może idealnie spełniać swoje zadanie, kiedy indziej może powielać nasze błędy. A przecież chcemy, żeby nasze dzieci były lepsze niż my, prawda?


Źródła:
GPT-3 Demo: New AI Algorithm Changes How We Interact With Technology
10 cool GPT-3 demos
What Is GPT-3 And Why Is It Revolutionizing Artificial Intelligence?

Grafika: Goro Fujita


czwartek, 25 czerwca 2020

AlphaGo - The Movie

Cztery lata temu miało miejsce doniosłe wydarzenie. Program komputerowy pokonał osiemnastokrotnego mistrza świata w Go, koreańczyka Lee Sedola. Z okazji czterolecia na kanale Deep Mind ukazał się półtoragodzinny dokument o AlphaGo. To nie będzie recenzja, raczej kilka przemyśleń i największe ciekawostki dla mnie jakie wyciągnąłem z seansu.

Zacznijmy może od wyjaśnienia dlaczego jest przepaść między szachami i go, za którą idzie analogiczna przepaść między Deep Blue (program który w 1997 pokonał Garriego Kasparowa) a Alpha Go. Szachownica liczy 64 pola. Figury mogą wykonywać precyzyjnie określone ruchy. Liczba możliwych ruchów i rozgrywek jest ogromna, ale z odpowiednio mocnym komputerem można “brutalnie”, metodycznie sprawdzać najlepsze rozwiązania. Plansza do Go liczy 361 pozycji a kamienie można układać w dowolnych miejscach. Rozwiązanie “siłowe” po prostu tu nie zadziała.

Dlatego w przypadku Go potrzebny był program, który ma/zasymuluje intuicję, kreatywne myślenie, rozmaite strategie. AlphaGo zdecydowanie jest takim programem. Niestety jego działanie opiera się na sieciach neuronowych i uczeniu maszynowym. Piszę “niestety” bo kiedy to usłyszałem, od razu pomyślałem, że nawet jeśli AlphaGo symuluje te niezwykłe cechy, to nie zrozumiemy ich z jego pomocą. Sieci neuronowe są nie jako czarnym pudełkiem, nie mamy wglądu w reguły ich działania. Dobrze się czasem mylić, bo jak ukazuje dokument twórcy AlphaGo mają wgląd w proces decyzyjny. Może nie jest to klucz do zrozumienia jak działa mózg gracza Go, ale zdecydowanie sprawiło, że śledzenie pięciu pojedynków między komputerem a Lee Sedolem było fascynujące nawet dla kogoś nie ogarniającego tej gry.

Program wygrał pierwsze trzy rozgrywki, przegrał czwartą i zakończył piątą zwycięstwem. Ciężko mi określić na ile film dramatyzuje mecze, ale z wyjątkiem trzeciej partii, gdzie koreańczyk najwyraźniej nie wytrzymał presji, każda oferuje coś ciekawego, szczególnie druga i czwarta. Pierwsza i ostatnia pokazały, że maszyna planuje na długą metę, że jej pozorne błędy były częścią planu i że potrafi bezwzględnie kalkulować. AlphaGo wie, że starczy przewaga jednego punkta by wygrać mecz.

Druga partia była szczególnie interesująca, bo udowodniła, że program jest kreatywny. Komentatorzy zachwycali się trzydziestym siódmym ruchem w grze, nazywali go unikalnym i kreatywnym. Ciekawe jest to, że choć sieć neuronowa uczyła się na podstawie gier zwykłych graczy i mistrzów, ruch ten AlphaGo wykonała mimo, że sama szacowała szanse na wykonanie takiej zagrywki przez ludzkiego gracza na 1 na 10 000. Innymi słowy uczeń przerósł mistrza.

Czwarty mecz jest jedynym, który wygrał człowiek. Tu również wygląda na to, że o wyniku zadecydował jeden genialny ruch, który przechylił szalę na korzyść Lee Sedola. Koreańczyk stwierdził, że to był jedyny ruch jaki widział w tamtym momencie. Po nim maszyna popełniła szereg ruchów źle ocenianych przez speców. Dlaczego ta partia była interesująca? Wygląda na to, że “boski ruch” nie świadczy o błędzie maszyny, która do niego dopuściła. AlphaGo raczej nie docenił przeciwnika, bo ruch ten był w przewidywanej puli, ale szansa na to, że ludzki przeciwnik go wykona została oceniona na 0,007%. Brzmi to zatem nie jak błąd tylko racjonalne działanie w obliczu znikomej szansy na konkretne zdarzenie.

Interesujące jest jednak również to, że program później wykonał szereg ruchów wyglądających na błędne. Tego jednak nie skomentowano szerzej w dokumencie. Jak wspomniałem, nie wiem ile w tym wszystkim dramatyzacji, być może zła ocena szans na boski ruch świadczy o słabości AlphaGo.

Nie mam jednak wątpliwości, że cztery lata temu stało się coś wyjątkowego. Dla mnie to kolejny dowód na to, że w ludzkim mózgu nie ma niczego magicznego. Mam nadzieję, że z czasem zbliżymy się zrozumienia tej nie-magicznej, ale diablo złożonej maszynki. Przy czym drogą do jej zrozumienia mogą nie być komputerowe sieci neuronowe. Nawiasem mówiąc warto podkreślić, że Lee Sedol jest pierwszym i ostatnim człowiekiem który pokonał AlphaGo podczas 74 oficjalnie rozegranych gier.


Link do filmu:
https://www.youtube.com/watch?v=WXuK6gekU1Y


środa, 10 lipca 2019

"Moja futurologia nie została jeszcze prześcignięta przez rzeczywistość" - wywiad z Michałem Cholewą

Doktor nauk technicznych, matematyk i informatyk, który znajduje jeszcze czas na pisanie militarnej SF. Co miłe - znalazł też trochę czasu, żeby porozmawiać ze mną o swoich książkach, pracy i o naszym świecie i jego przyszłości.
Michał Cholewa, choć jego strona na Wikipedii jest wciąż krótsza niż jego ojca, już ma na koncie sześć książek i niemały zbiór nagród, w tym Zajdla (oraz nominację do kolejnego, więc trzymamy kciuki).
Zapraszam do lektury.


Zakładam, że już pisząc Gambit miałeś pewien plan na cały cykl, prawda?

Pisząc Gambit - nie. Pomysłem na tę książkę początkowo było opowiedzenie o operacji wojskowej z punktu widzenia jej różnych uczestników. W tym czasie Gambit miał być jeszcze zbiorem opowiadań, ale to się ostatecznie zmieniło. Część treści zniknęła, pojawiły się inne, uwspólnili się bohaterowie. Wiedziałem, do czego zmierza fabuła, ale wiedziałem również, że jeśli na jednej książce się skończy, to będzie to miało jakieś domknięcie.

Kiedy Gambit został ostatecznie wysłany do druku, wiedziałem już o czym będzie cała historia - o ile będę miał szansę ją wydać.


OK, więc moje pytanie brzmi - biorąc pod uwagę, że minęło siedem lat i mamy za sobą już pięć tomów, czy tamten zarys przypomina jeszcze to co już powstało i czego finał widać na horyzoncie?

Tak! O ile oczywiście zmieniają się detale w środku i którędy dokładnie wiedzie przewidziana dla bohaterów ścieżka, ale jej ogólny kształt powstał przed napisaniem Punktu cięcia i pozostaje modyfikowany acz niezmieniony. To historia o konkretnych rzeczach, chciałem napisać ją w konkretny sposób i nie chcę tego zmieniać.


Ekspozycja świata Algorytmu Wojny chyba zawsze odbywa się “przy okazji”. Ciekaw jestem czy dowiemy się więcej o przekaźnikach czasu rzeczywistego albo o przestrzeni metrycznej?

To zależy co oznacza “więcej”. Z punktu widzenia bohaterów obie te rzeczy - i wiele innych zresztą - są narzędziami. Wierzba jest żołnierzem, więc przekaźnik czasu rzeczywistego jest dla niego mniej więcej tak zrozumiały jak dla przeciętnego człowieka akcelerator cząstek. Jak dotąd nie miałem dobrego sposobu ani żeby wpleść to w rozmowę, ani przemyślenia.

To może się zmienić - ale prawdę mówiąc nie chcę się w to przesadnie zagłębiać, ponieważ lot FTL czy choćby przekazywanie informacji FTL jest zagadnieniem niemożliwym i co bym wymyślił, będzie źle.


Starasz się zachować realizm, czy może jego pozory. Jako pisarz. Czy jako czytelnik też jesteś na to wyczulony? Czy wolisz jak inni autorzy przemilczą zasady podróży/komunikacji FTL niż jeśli wymyślają jakieś uzasadnienie?

Skądinąd wiem, że póki co uzasadnienia nie ma, więc każde wyjaśnienie będzie w ten lub inny sposób naciągane. Na ogół więc przyjmuję, że pewne rzeczy są założeniami świata i trzeba po prostu przyjąć, że fizyka działa w nim tak, a nie inaczej. Kiedy już jednak mam te założenia - których nie kwestionuję - chciałbym żeby świat działał poniekąd spójnie z nimi. Jeżeli w świecie funkcjonuje powszechna telepatia na przykład, oczekiwałbym, że część telepatów współpracuje z policją, a wywiad działa troszkę inaczej niż u nas. Jeżeli gwiezdny myśliwiec bez trudu radzi sobie z wielkim okrętem, potrzebuję powodu, dla którego w świecie istnieją wielkie okręty stworzone do walki (a nie tylko transportu).

Słowem, zwykle moim głównym wymaganiem jest to, by świat działał według swoich własnych zasad.


Przypomnij moim Czytelnikom, gdzie pracujesz.

Zawodowo pracuję w Instytucie Informatyki Teoretycznej i Stosowanej Polskiej Akademii Nauk. Zajmuję się uczeniem maszynowym, co może brzmieć jakbyśmy budowali Skynet, ale na takie zarzuty moją odpowiedzią jest stanowcze nie potwierdzam i nie zaprzeczam.


Otoczenie pomaga Ci w pisaniu?

Moje zawodowe otoczenie? Bardzo. Głównie dlatego, że jest tam spory procent ludzi o podobnych zainteresowaniach, których zawsze mogę zapytać jak coś mogłoby działać albo czy dane rozwiązanie - techniczne czy fabularne - ma sens. Głęboko wierzę w sens testowania pomysłów, a moim koledzy z pracy bardzo to ułatwiają.


Czy jakieś osiągnięcia współczesnej nauki namieszały ci w cyklu? Ostatnie siedem lat to Crispr/CAS9, implanty pamięci u myszy, wysyp egzoplanet (to raczej nie psuje Ci nastroju), Watson wygrał w Jeopardy w 2011… Widząc jak starasz się, żeby Algorytm był Hard-SF, zastanawiam się czy coś Ci popsuło zabawę.

Jak dotąd nie. W ciągu ostatniej dekady nie pojawiło się nic, co odwróciłoby mi świat do góry nogami. Setting Algorytmu Wojny jest pod tym względem wygodny - jest przecież de facto postapokaliptyczny i mam pewną swobodę z decydowaniem co ze świata sprzed Dnia przetrwało. Wiele kierunków gwałtownie rozwijających się porusza sie po orbicie automatyzacji, a akurat ich nieobecność w świecie mogę łatwo wytłumaczyć.

Ogólnie na ten konkretny moment moja futurologia, jaka by nie była, nie została jeszcze prześcignięta przez rzeczywistość - z drugiej strony od premiery Gambitu minęło zaledwie siedem lat.


Załóżmy, że w Twojej twórczości AI są złe. Co sądzisz o AI tu i teraz? Ja mam wrażenie, że apokalipsę serwujemy sobie sami od kilkudziesięciu lat i nie zapowiada się, że sami się uratujemy. Może silna AI mogłaby nam pomóc?

Masz rację, ludzie zupełnie nie potrzebują złych AI do apokalipsy, z tą jedną rzeczą radzimy sobie, niestety, świetnie. Co więcej, w wielu przypadkach mniej więcej wiadomo co należałoby zrobić, po prostu ludzie nie chcą tego robić. To z kolei prowadzi do myśli, że potencjalna silna AI musiałby dokonać prawdziwego przełomu i opracować zupełnie nowe rozwiązania - najlepiej takie który nie obniżą nam poziomu wygody, bo co jak co, ale na to ludzie się nie zgadzają, choćby świat miał się walić i palić.

Na to oczywiście silna AI ma szanse większe niż ludzie. Ale łatwo jej nie będzie.

Druga opcja jest to, że po prostu przejmie władzę i zacznie realizować jakaś zoptymalizowana wersje naszych dzisiejszych pomysłów. Ale silna AI u steru ludzkości to temat na zupełnie osobną i długą rozmowę.


Co sądzisz o kryzysie zaufania do nauki? Lęk przed GMO, szczepieniami, altmedy, negowanie zmian klimatycznych, brak zaufania do energetyki jądrowej?

Delikatnie mówiąc, niepokoi mnie. Dorastałem już w erze gwałtownego rozwoju i naiwnie zakładałem że idziemy w stronę bycia dziećmi nauki i pełnego racjonalizmu. To się nie stało - co więcej pojawił się zupełnie niespodziewany (dla mnie) regres. I szkoda, bo moglibyśmy być o tyle dalej.

Mam wrażenie że problem bierze się trochę z zamiłowania do teorii spiskowych, trochę z tego że nauka jest coraz mniej intuicyjna, a więc jej nie rozumiemy. A rzeczy niezrozumiałe są - w naszych głowach - groźne.

Trochę też winę ponosi brak intuicyjnego zrozumienia reguły Bayesa - domyślnie zakładamy, że otrzymywane informacje tworzą sensowny obraz rzeczywistości - mniej lub bardziej przybliżony.

Ale dowiadujemy się głównie o sytuacjach, kiedy coś pójdzie nie tak. Wszyscy wiemy o Czarnobylu, ale nikt nie opublikuje przecież notki prasowej “tego roku znowu wszystkie elektrownie atomowe działały bez zarzutu”. Podobnie nie czytamy informacji o działających szczepionkach. Albo braku głodu. Ale skoro wiemy tylko o kryzysach, to znaczy że pewne wynalazki pojawiają się w naszej świadomości tylko w negatywnym kontekście. Więc i w umysłach ludzi tworzy się ich negatywny obraz.


A jakie jest w ogóle twoje podejście do nowinek technologicznych? Kibicujesz Elonowi? Wypatrujesz kolonizacji Marsa czy bazy na Księżycu? Wolałbyś zjeść udającego mięcho impossible burgera czy burgera z mięsem z próbówki?

Jestem gorącym fanem nauki. Jako miłośnik SF oczywiście chciałbym zobaczyć za swojego życia kolonię na Marsie, żyć z przeświadczeniem, że jeszcze trochę, jeszcze sto-dwieście lat i faktycznie staniemy się cywilizacją międzyplanetarną. I chciałbym tego nawet wiedząc, że dużo szybciej taką cywilizacją staną się roboty.

Chciałbym patrzeć jak nauka rozwiązuje nasze problemy, jak nie musimy hodować bydła rzeźnego, jak energetyka przestaje rujnować planetę, jak pokonujemy kolejne choroby. I wierzę, że to się stanie - ostatecznie, wbrew memom, że postęp skupił się tylko na obrazkach kotów, idziemy naprzód.


Masz jakieś technofobie?

Chyba mam nie tyle technofobię co strach przed nią. Rozwijamy technologię szybciej iż ewoluujemy - co jest oczywiste. Boję się, że w pewnym momencie nie nadążymy z przeciętnym wykształceniem naukowym i okaże się w pewnym momencie, że technologia stanie się amuletem, clarkowsko nieodróżnialnym od magii. Że zniknie chęć jej poznania, zostanie tylko satysfakcja z użycia.


Patroni pytają czy masz już tytuł szóstego tomu?

Nadal szukam odpowiedniego. Tradycja nakazuje, że musi być sensownym spoilerem :)


To o datę premiery też nie pytać?

Chciałbym w tym roku ale patrząc na moje tempo byłoby to sporym zaskoczeniem. Niemniej staram się i nadal troszkę wbrew faktom - mam nadzieję.


No dobra to teraz pogadajmy o rakietach w Twoim cyklu. Wyjaśnisz czytelnikom czemu metalowe drzazgi? I skoro wyrzucane one są w kształcie stożka w jednym kierunku, to co zostaje odrzucone w przeciwnym kierunku i czy grozi pojazdom prowadzącym ostrzał?

To akurat nie problem. Doskonałość namierzania obrony punktowej sprawia, że pocisk zasadniczo nie ma szans trafić w okręt, co oznaczało, że należy przyjąć, że detonuje gdzieś wcześniej, a energię trzeba jakoś donieść do celu.

Do wyboru miałem bardzo silne emisje energii wprost (jak na przykład bomba termojądrowa) albo pociski kinetyczne. Bomby termojądrowe jednak mają w próżni skandalicznie mały zasięg skutecznego rażenia, zdecydowałem się więc na pociski kinetyczne. Pocisk kiedy stwierdzi, że jest z grubsza wystarczająco blisko celu (znaczy każda chwila lot dłużej niesie ze sobą za duże ryzyko zestrzelenia) detonuje i rozpada się na stos małych, ale za to bardzo rozpędzonych (bo pocisk był rozpędzony) drzazg. Jest ich na tyle dużo że istnieje matematycznie rozsądna szansa, że któraś z nich trafi cel, a ponieważ są bardzo rozpędzone - narobić szkód.

W tym kontekście nic nie jest wyrzucane do tyłu. Rakieta ofensywna raczej rozpada się niż wystrzeliwuje coś.


Czyli drzazgi są niesione pędem pocisku, który po prostu się rozpada?

Dokładnie tak. On już jest wystarczająco szybki żeby nie musieć ich bardziej rozpędzać.


Silna Sztuczna Inteligencja z perspektywy człowieka jest istotą niemal boską. Jakie są ograniczenia AI w Algorytmach Wojny i czemu odpowiedź brzmi poczekaj na kolejne tomy?

Tak naprawdę AI doskonale liczą i to jest ich główna supermoc. Są dobre w liczeniu prawdopodobieństw i uwzględnianiu wielu czynników. Czyli w tym, czym komputery są dobre teraz - moje AI po prostu świetnie izolują istotne czynniki, przez co ich kalkulacje mają sporo sensu. Ich słabym punktem - co widać było już w Gambicie - jest to że jednak nie są po prostu komputerami. Są istotami z własnymi osobowościami i poglądami - bo stworzyli je ludzie, na swoje podobieństwo (jak to stwórcom się zdarza). Wyhodowanie sensownej AI również zajmuje czas, to nie jest proste powielanie kodu, więc jest ich nieco mniej.

No i oczywiście, nie są aż takie bliskie bogom - ostatecznie, już raz przegrały.


Jest jakiś powszechnie znany i lubiany klasyk SF którego Ty nie lubisz?

Mam wrażenie że gdybym miał wymienić któregoś koniecznie - byłby to Robert Heinlein. Jego silny militarystyczny jingoism niekoniecznie mi odpowiada.


Wielkie dzięki za rozmowę. Trzymam kciuki za Zajdla, no i powodzenia w pracach nad kolejnymi tomami.



poniedziałek, 4 kwietnia 2016

Przykro mi, Dave. Obawiam się, że masz raka.

Tekst opublikowany w Nowej Fantastyce 8/2015

Co robi wielu chorych po opuszczeniu gabinetu lekarskiego z diagnozą? Udaje się po drugą opinię. W końcu nawet jeśli dany lekarz jest dobry, to nie pozjadał wszystkich rozumów, warto podeprzeć się doświadczeniem innego. Jednocześnie, pomysł by dać się diagnozować komputerowi, w moim doświadczeniu, spotyka się z instynktownym sprzeciwem. Nawet gdy wyjaśniam, że to tak jakby konsultować się z lekarzem, który ma doświadczenie dziesięciu tysięcy lekarzy, moi rozmówcy nie wydają się przekonani.

Tymczasem mniej więcej tak działają pojawiające się coraz liczniej algorytmy i programy diagnostyczne. Najbardziej znanym jest stworzony przez IBM Watson. Początkowo miał on być nowym wyzwaniem dla firmy po tym jak Deep Blue pokonał Garri Kasparowa w szachy. Celem było wygranie w teleturnieju Jeopardy! (którego polskim odpowiednikiem jest Va banque). By tego dokonać komputer musiał być w stanie rozumieć naturalny język - czyli rozumieć pytania, być w stanie znaleźć odpowieź na nie w swojej piętnastoterabajtowej pamięci (zawierającej między innymi kompletny tekst wikipedii) i robić to szybciej niż dwaj najlepsi uczestnicy teleturnieju w historii. Udało się to w 2011 roku.

IBM stwierdził, że to początek nowej ery we współpracy ludzi z komputerami, które będą rozumieć naturalny język, wnioskować i odpowiadać na pytania. Na pierwszy ogień poszła medycyna. Watson został “nakarmiony” 600 tysiącami medycznych publikacji i prób klinicznych oraz historią medyczną półtora miliona pacjentów. W niecały rok diagnozował raka płuc lepiej niż żywi lekarze. W trakcie prac naukowcy stwierdzili, że dobrym pomysłem będzie wprowadzenie do pamięci Watsona słownika slangu (Urban Dictionary), by lepiej rozumiał ewentualne kolokwializmy w materiałach medycznych. Wycofali się z tego, gdy komputer zaczął przeklinać odpowiadając na pytania lekarzy.

Dziś Watson wciąż przewyższa diagnostyków tylko w wąskich dziedzinach, nie ulega jednakże wątpliwości, że zdeklasowanie ludzi to tylko kwestia czasu. Jeszcze w tym roku wszystkie dane pacjentów w amerykańskich szpitalach mają zostać zdigitalizowane. Watson nie jest jedyny. Amerykański startup Enlitic ostatnio pochwalił się swoim algorytmem, który również przyćmił ludzi. W czasie badań, radiolodzy przegapili 7% przypadków nowotworu okrężnicy, automat nie przegapił ani jednego.

Warto jednak zwrócić uwagę na jedną rzecz. Maszyna nie musi być nieomylna. Wystarczy jeśli będzie lepsza od przeciętnego człowieka. I tu wkracza temat, który niebywale mnie zaskoczył. Biorąc pod uwagę niechęć do elektronicznej diagnozy, którą poznałem z pierwszej ręki, wyniki sondy Cisco dotyczącej zaufania do autonomicznych samochodów są szokujące. W 2013 spytano półtora tysiąca dorosłych osób z dziesięciu krajów o dwie rzeczy. Czy byliby gotowi przejechać się samodzielnym samochodem oraz czy pozwoliliby, by ich dzieci zostały gdzieś zawiezione przez taki samochód. 57% ankietowanych zaufałoby komputerowi za kółkiem. Nieźle jak na raczkującą technologię, która wciąż jest w fazie testów i zmagania się z legislacją. Takie wyniki musiały uspokoić pracujących nad samodzielnymi samochodami gigantów - m.in. Mercedesa, GM, Nissana, Volvo, Audi, Peugeota i oczywiście Google.

Zaskakuje nie tylko 57% poziom zaufania, ale również różnice pomiędzy poszczególnymi krajami. Liderem okazała się Brazylia, gdzie 95% ankietowanych wsiadłoby do takiego samochodu a 92% wsadziłoby doń własne dziecko. Za Brazylią znalazły się Indie (86% / 69%) i Chiny (70% / 53%). Co zdumiewające na końcu znalazła wypadła “ojczyzna robotów”, czyli Japonia, gdzie zaufanie wyniosło jedynie 28% / 27%. Ciekawostką jest również różnica między odpowiedziami na oba pytania. W Japonii, Brazylii, Francji, Niemczech i Wielkiej Brytanii wynosiły one kilka procent. W Indiach, Chinach, USA kilkanaście, w Rosji aż 21 procent mniej ankietowanych było gotowych pozwolić, by ich dzieci pojechały samochodem kierowanym przez komputer (57% / 36%).

Do tej pory testowane samochody nie doprowadziły do wypadku (brały jednak udział w kolizjach z cudzej winy). Jednak prędzej czy później na pewno dojdzie do śmiertelnej sytuacji i już czuję, że media będą stawać na głowie by zastraszyć opinię publiczną. Czy wtedy wystarczy, że maszyna zareaguje lepiej i szybciej niż człowiek? Coraz częściej pojawia się trudne pytanie, na które konstruktorzy nie kwapią się udzielić odpowiedzi. Jeśli sytuacja na drodze wymusi wybór - śmierć pasażera samochodu lub autobusu pełnego ludzi - jaką decyzję podejmie maszyna? To szalenie ciekawy temat do gimnastyki umysłu i coraz mniej istotne w praktyce pytanie. Drogi stają się coraz bezpieczniejsze na całym świecie. Może rośnie świadomość, może poprawiają się umiejętności, a może coraz popularniejsze systemy automatycznego hamowania i inne metody wspomagania kierowców dochodzą do głosu. Może to one sprawiają, że ludzie przychylnie patrzą na komputer, który miałby kierować ich samochodem, jednocześnie łypiąc podejrzliwie na komputerową diagnozę.