Agenda PyStok #68 19 lutego 2025 (środa), 18:00

Jak tworzyć działające i zaufane produkty oparte na LLM? (40 min)

Vladimir Alekseichenko

Hype na LLM wciąż trwa i nie zwalnia tempa. Wokół LLM pojawiają się różne podejścia i odmiany, takie jak RAG, które nadal cieszą się dużą popularnością. Rok 2025 to czas Agentów AI opartych na LLM. Trendy ewoluują, ale w tym wszystkim często gubi się coś kluczowego: jak stworzyć system oparty na LLM, który nie tylko robi efekt "wow", ale działa stabilnie i budzi zaufanie (zamiast frustracji). Jak programiści mogą łatwo integrować kod z modelami LLM albo łączyć LLM z klasycznym ML? Czy da się zapewnić jakość poprzez podejście podobne do tego stosowanego w klasycznym oprogramowaniu, dodając walidatory, schematy, możliwość naprawiania błędów i kilka innych sztuczek? Spoiler: Da się!

Osiągnąć efekt "wow" przy pomocy LLM to już łatwizna. Nawet kilka linijek kodu i już niby działa, super! Ale stworzenie stabilnego, kontrolowanego i audytowalnego produktu opartego na LLM to zupełnie inna liga. Pracowałem nad wieloma projektami LLM, już przetworzyłem ponad 100 milionów tokenów i przetestowałem ponad 100 różnych modeli LLM. Popełniłem wiele błędów, ale dzięki temu wiem, co naprawdę działa w praktyce. W internecie znajdziesz mnóstwo teorii i narzędzi, ale większość z nich jest oderwana od rzeczywistości. W tej prezentacji pokażę, jak podejść do LLM z perspektywy programisty i praktyka. Zrozumiesz, dlaczego samo "promptowanie" to za mało, co w praktyce oznacza tworzenie kontrolowanego RAG i Agentów AI oraz jak połączyć zwykły kod z LLM w stabilny, przewidywalny sposób.

Porozmawiamy o tym, dlaczego narzędzia takie jak LangChain czy CrewAI świetnie sprawdzają się w prototypach i przy efekcie "wow", ale nie polecam używać ich do budowy systemów, które zamierzasz wdrażać na produkcję. Podzielę się także konkretnymi przypadkami użycia, które działają w realnych warunkach. Spoiler: nadal trzeba myśleć i planować (tak, tak, może to brzmi zaskakująco, bo ogólny przekaz jest taki, że AI już jest na poziomie PhD, ale to jest przekaz dla inwestorów, a dla praktyków, którzy to robią, rzeczywistość jest inna – po prostu trzeba dowozić rzeczy we właściwy sposób).

Chcesz dowiedzieć się, jak wyjść poza hype i stworzyć prawdziwie wartościowe produkty oparte na LLM? Ta prezentacja jest dla Ciebie.

ColPali i search w organizacji (40 min)

Rafał Kuć

Search jest martwy. Niech żyje search! W erze nieustannie rozwijających się technologii przyjrzymy się, jak podejście do wyszukiwania dokumentów w organizacjach ewoluowało na przestrzeni lat. Od prostych rozwiązań, takich jak full-text search i OCR z algorytmy podobieństwa BM25, czy TF-IDF, aż po rewolucję w postaci modeli językowych, takich jak ColBERT i nowoczesne systemy wspierające się modelami wizyjno-lingwistyczne.

Podczas tej prezentacji odkryjesz:

  • Teoretyczne różnice pomiędzy kluczowymi podejściami do wyszukiwania.
  • Jak modele takie jak BERT zmieniają sposób, w jaki rozumiemy dane tekstowe.
  • Jak nowoczesne systemy informatyczne mogą uprościć przetwarzanie i wyszukiwanie w dokumentach, takich jak pliki PDF.

Przygotowaliśmy coś więcej niż teorię – zobaczysz w działaniu prosty system, który indeksuje i wyszukuje dane w dokumentach, pokazując praktyczne zastosowanie nowoczesnych technologii.

Książki za aktywność

Zachęcamy Was gorąco do aktywnego udziału w sesji pytań i odpowiedzi (Q&A) podczas obu prelekcji. Do wygrania będą dwie książki o algorytmach oraz uczeniu maszynowym od wydawnictwa Helion oraz IT PWN.

Zastanawiasz się o jakich pozycjach mowa? Spójrz na poniższą listę tutaj.

Konkurs

Kolejno, przyjdzie nam ponownie wykorzystać skrypt wypisujący na "stdout" dwie osoby z bazy uczestników zarejestrowanych na spotkanie. Do wygrania są roczne licencje (Personal License) na IDE PyCharm.

Sponsor roczny

GrupaZPR powered by Netstation

Grupa ZPR Media to jedna z najdynamiczniej rozwijających się firm medialnych w Polsce. Z liczbą ponad 15 milionów użytkowników miesięcznie znajduje się w gronie największych wydawców serwisów internetowych. Stale inwestuje w nowoczesne technologie.

Buduje #mocnyskład, nowoczesny multidyscyplinarny zespół, który powstaje, aby jak najlepiej potrafił odpowiadać na potrzeby użytkowników internetu w Polsce i wspólnie zdobywał kolejne internetowe szczyty w Grupie ZPR Media.

Nie ma mocnego składu bez mocnych programistów z Netstation. Dlatego dołącz do Nestation, aby stali się jeszcze mocniejsi.

Sponsor spotkania

FINTEQ

FINTEQ to tworzona w Białymstoku przez firmę Fq Prosta S.A. platforma do obsługi programu finansowania dostawców dla małych i średnich przedsiębiorstw. Spółka wdrożyła innowacyjną technologię finansowania dostawców, umożliwiającą efektywne zarządzanie kapitałem obrotowym w łańcuchach dostaw i to w 100% automatycznie.

Czy to rozwiązanie jest dla Ciebie? Jeżeli wymagasz określonego terminu płatności na fakturze, Twój dostawca może mieć problem z płynnością finansową. W efekcie wpłynie to także na termin i jakość realizacji Twojego własnego zlecenia.

FINTEQ powoduje, że skończą się telefony i maile o płatność od Twoich dostawców. Rozwiązanie świetnie przejmuje rolę platformy komunikacji w zakresie bieżących rozliczeń z dostawcami i to w czasie rzeczywistym. Jak mówi sam twórca rozwiązania Rafał Charboł: "FINTEQ to finansowanie na jeden click".

Sponsor spotkania

ZOSTAŃ SPONSOREM PYSTOKU!

Skontaktuj się z nami poprzez grupa@pystok.org

Formularz rejestracji na PyStok #68

Rejestracja na PyStok nie jest obowiązkowa. Realizujemy ją wyłącznie do celów informacyjnych, statystycznych, a także organizacyjnych spotkania.

Uczestnicy spotkania, którzy dokonają rejestracji za pomocą poniższego formularza akceptują Politykę prywatności i regulamin serwisu.

Ponadto, każdy zarejestrowany uczestników weźmie udział w losowaniu nagród przewidzianych do wygrania, ufundowanych przez sponsorów spotkania.

Rejestracja uczestnictwa powiodła się. Za chwilę otrzymasz e-mail z potwierdzeniem.
Rejestracja nieudana. Prosimy spróbować ponownie.
  1. 68

Sponsorzy wydarzenia

Partnerzy medialni