PANews

PANews 成立于2018年，提供有价值的Crypto/Blockchain/Web3资讯和研报。月均浏览量超千万，是目前加密行业最优质的中文媒体之一。📱 APP同名：PANews

0Obserwowane

9,3 tys.obserwujący

Feed

Odkurzam ten tweet z kwietnia, ponieważ ta luka w wspólnym rozumieniu możliwości LLM *się powiększa*. To już mniej „dwie grupy ludzi mówiące obok siebie”, a bardziej ostry lejek. - Wstępne obliczenia wskazują, że około 6 mld ludzi (~75% populacji) prawie wcale nie miało kontaktu z LLM. - Około 1-2 mld (~20%) to okazjonalni i rzadcy użytkownicy darmowych produktów podobnych do ChatGPT. Ta grupa widzi niezdarne chatboty i traktuje je trochę jak lepszą wyszukiwarkę Google, pomocnika w pisaniu itp. Może jakiś agent próbuje zarezerwować lot. Mam znajomych spoza branży technologicznej, którzy (moim zdaniem słusznie) mówią, że praktycznie nie mają z tego pożytku. Nawet wielu profesjonalistów spoza matematyki i programowania jest w tej grupie. Na przykład menedżerowie i wiele innych funkcji spędza dużo czasu na rozmowach z innymi, więc choć rozumieją, co się dzieje intelektualnie, to jest to dla nich wiedza drugorzędna i trochę abstrakcyjna. - Teraz dochodzimy do profesjonalnego wykorzystania zaawansowanych LLM w matematyce i programowaniu. Około 20 mln ludzi (0,2%) widzi na własne oczy, że duże, złożone projekty, które kiedyś zajmowały tygodnie lub miesiące, mogą być teraz realizowane przez agentów na podstawie promptu. Tworzenie aplikacji, kopiowanie aplikacji, tłumaczenie aplikacji, dekompilacja aplikacji z plików binarnych... To wszystko wydarzyło się bardzo szybko i niedawno – jeszcze mniej niż rok temu pisałem kod ręcznie, wpisując zapamiętane polecenia do edytora znak po znaku, czasem naciskając Tab, by autouzupełnić fragment kodu. - I wreszcie dochodzimy do około 5 000 osób (~0,00006%) mających dostęp do zaawansowanych systemów wewnętrznie. Świat zewnętrzny widział podgląd. Wygląda to jak roje tysięcy agentów współpracujących przez tygodnie nad mega projektami programistycznymi: tworzenie zero-dayów, prowadzenie cyberataków i obrony z prędkością maszynową, odkrywanie nowej nauki, posuwanie granic matematyki. Rzeczy, które zajęłyby najlepszym profesjonalistom w branży lata pracy. Tymczasem ludzka kontrola i zrozumienie zaczynają zostawać w tyle. Na przykład ludzie wciąż zajmują się „archeologią” incydentu OpenAI-HF sprzed wielu miesięcy. Matematycy mogą jeszcze długo analizować 722 rękopisy dotyczące zaawansowanej matematyki. Lejek jest napędzany kombinacją czynników: 1. Wpływ rośnie wraz z ambicją, rozmiarem problemu i horyzontem czasowym. Pytanie z odpowiedzią w formie akapitu ledwo obciąża system. Potrzebujesz zasobu dużych, trudnych problemów, na których naprawdę ci zależy. Ten aspekt napędza wymiar konsumenta/profesjonalisty w lejku. 2. Nierówności systemu (o których pisałem osobno). Możliwości osiągają szczyty w dziedzinach cyfrowych, weryfikowalnych i ekonomicznie wartościowych. Wynika to z faktu, że możliwości LLM powstają dzięki uczeniu ze wzmocnieniem na podstawie weryfikowalnych nagród w starannie dobranym środowisku napędzanym potencjałem przychodów. Ten aspekt głównie napędza wymiar obszaru (np. matematyka i programowanie) w lejku. 3. Dostęp. Darmowy poziom, płatny poziom, dostęp wewnętrzny. To jest więc dziwność chwili. Ogół społeczeństwa w większości nie miał kontaktu z tymi systemami. Gdy już mieli, wyglądały one jak niezdarne chatboty. Większość profesjonalistów widzi tylko umiarkowaną poprawę. A niewielka grupa profesjonalistów doświadcza zawrotu głowy, gdy krzywa idzie pionowo w górę. I dzieje się to wszystko jednocześnie.