Agenda PyStok #68 19 lutego 2025 (środa), 18:00
Jak tworzyć działające i zaufane produkty oparte na LLM? (40 min)
Vladimir Alekseichenko
Hype na LLM wciąż trwa i nie zwalnia tempa. Wokół LLM pojawiają się różne podejścia i odmiany, takie jak RAG, które nadal cieszą się dużą popularnością. Rok 2025 to czas Agentów AI opartych na LLM. Trendy ewoluują, ale w tym wszystkim często gubi się coś kluczowego: jak stworzyć system oparty na LLM, który nie tylko robi efekt "wow", ale działa stabilnie i budzi zaufanie (zamiast frustracji). Jak programiści mogą łatwo integrować kod z modelami LLM albo łączyć LLM z klasycznym ML? Czy da się zapewnić jakość poprzez podejście podobne do tego stosowanego w klasycznym oprogramowaniu, dodając walidatory, schematy, możliwość naprawiania błędów i kilka innych sztuczek? Spoiler: Da się!
Osiągnąć efekt "wow" przy pomocy LLM to już łatwizna. Nawet kilka linijek kodu i już niby działa, super! Ale stworzenie stabilnego, kontrolowanego i audytowalnego produktu opartego na LLM to zupełnie inna liga. Pracowałem nad wieloma projektami LLM, już przetworzyłem ponad 100 milionów tokenów i przetestowałem ponad 100 różnych modeli LLM. Popełniłem wiele błędów, ale dzięki temu wiem, co naprawdę działa w praktyce. W internecie znajdziesz mnóstwo teorii i narzędzi, ale większość z nich jest oderwana od rzeczywistości. W tej prezentacji pokażę, jak podejść do LLM z perspektywy programisty i praktyka. Zrozumiesz, dlaczego samo "promptowanie" to za mało, co w praktyce oznacza tworzenie kontrolowanego RAG i Agentów AI oraz jak połączyć zwykły kod z LLM w stabilny, przewidywalny sposób.
Porozmawiamy o tym, dlaczego narzędzia takie jak LangChain czy CrewAI świetnie sprawdzają się w prototypach i przy efekcie "wow", ale nie polecam używać ich do budowy systemów, które zamierzasz wdrażać na produkcję. Podzielę się także konkretnymi przypadkami użycia, które działają w realnych warunkach. Spoiler: nadal trzeba myśleć i planować (tak, tak, może to brzmi zaskakująco, bo ogólny przekaz jest taki, że AI już jest na poziomie PhD, ale to jest przekaz dla inwestorów, a dla praktyków, którzy to robią, rzeczywistość jest inna – po prostu trzeba dowozić rzeczy we właściwy sposób).
Chcesz dowiedzieć się, jak wyjść poza hype i stworzyć prawdziwie wartościowe produkty oparte na LLM? Ta prezentacja jest dla Ciebie.
ColPali i search w organizacji (40 min)
Rafał Kuć
Search jest martwy. Niech żyje search! W erze nieustannie rozwijających się technologii przyjrzymy się, jak podejście do wyszukiwania dokumentów w organizacjach ewoluowało na przestrzeni lat. Od prostych rozwiązań, takich jak full-text search i OCR z algorytmy podobieństwa BM25, czy TF-IDF, aż po rewolucję w postaci modeli językowych, takich jak ColBERT i nowoczesne systemy wspierające się modelami wizyjno-lingwistyczne.
Podczas tej prezentacji odkryjesz:
- Teoretyczne różnice pomiędzy kluczowymi podejściami do wyszukiwania.
- Jak modele takie jak BERT zmieniają sposób, w jaki rozumiemy dane tekstowe.
- Jak nowoczesne systemy informatyczne mogą uprościć przetwarzanie i wyszukiwanie w dokumentach, takich jak pliki PDF.
Przygotowaliśmy coś więcej niż teorię – zobaczysz w działaniu prosty system, który indeksuje i wyszukuje dane w dokumentach, pokazując praktyczne zastosowanie nowoczesnych technologii.
Książki za aktywność
Zachęcamy Was gorąco do aktywnego udziału w sesji pytań i odpowiedzi (Q&A) podczas obu prelekcji. Do wygrania będą dwie książki o algorytmach oraz uczeniu maszynowym od wydawnictwa Helion oraz IT PWN.
Zastanawiasz się o jakich pozycjach mowa? Spójrz na poniższą listę tutaj.
Konkurs
Kolejno, przyjdzie nam ponownie wykorzystać skrypt wypisujący na "stdout" dwie osoby z bazy uczestników zarejestrowanych na spotkanie. Do wygrania są roczne licencje (Personal License) na IDE PyCharm.
Sponsor roczny
Grupa ZPR Media to jedna z najdynamiczniej rozwijających się firm medialnych w Polsce. Z liczbą ponad 15 milionów użytkowników miesięcznie znajduje się w gronie największych wydawców serwisów internetowych. Stale inwestuje w nowoczesne technologie.
Buduje #mocnyskład, nowoczesny multidyscyplinarny zespół, który powstaje, aby jak najlepiej potrafił odpowiadać na potrzeby użytkowników internetu w Polsce i wspólnie zdobywał kolejne internetowe szczyty w Grupie ZPR Media.
Nie ma mocnego składu bez mocnych programistów z Netstation. Dlatego dołącz do Nestation, aby stali się jeszcze mocniejsi.
Sponsor spotkania
FINTEQ to tworzona w Białymstoku przez firmę Fq Prosta S.A. platforma do obsługi programu finansowania dostawców dla małych i średnich przedsiębiorstw. Spółka wdrożyła innowacyjną technologię finansowania dostawców, umożliwiającą efektywne zarządzanie kapitałem obrotowym w łańcuchach dostaw i to w 100% automatycznie.
Czy to rozwiązanie jest dla Ciebie? Jeżeli wymagasz określonego terminu płatności na fakturze, Twój dostawca może mieć problem z płynnością finansową. W efekcie wpłynie to także na termin i jakość realizacji Twojego własnego zlecenia.
FINTEQ powoduje, że skończą się telefony i maile o płatność od Twoich dostawców. Rozwiązanie świetnie przejmuje rolę platformy komunikacji w zakresie bieżących rozliczeń z dostawcami i to w czasie rzeczywistym. Jak mówi sam twórca rozwiązania Rafał Charboł: "FINTEQ to finansowanie na jeden click".
Sponsor spotkania
ZOSTAŃ SPONSOREM PYSTOKU!
Skontaktuj się z nami poprzez grupa@pystok.org
Formularz rejestracji na PyStok #68
Rejestracja na PyStok nie jest obowiązkowa. Realizujemy ją wyłącznie do celów informacyjnych, statystycznych, a także organizacyjnych spotkania.
Uczestnicy spotkania, którzy dokonają rejestracji za pomocą poniższego formularza akceptują Politykę prywatności i regulamin serwisu.
Ponadto, każdy zarejestrowany uczestników weźmie udział w losowaniu nagród przewidzianych do wygrania, ufundowanych przez sponsorów spotkania.