Konsultant LLM / NLP – wsparcie w fine-tuningu modelu Bielik/Mistral (QLoRA)

Poszukuję doświadczonego inżyniera ML / Specjalisty NLP do przeprowadzenia płatnych konsultacji technicznych (doradztwa) dotyczących dotrenowania (fine-tuningu) modelu LLM (celujemy w model Bielik-11B lub Mistral-7B) na specyficznych polskich danych.Posiadam własny budżet na infrastrukturę/doradztwo i podstawową wiedzę techniczną, ale potrzebuję eksperta, który pomoże mi uniknąć błędów i poprowadzi przez proces „za rękę”.

Zakres wsparcia (konsultacje online):

Strategia danych:

Ocena jakości mojego datasetu i doradztwo w zakresie formatowania (chat templates, tokeny sterujące).

Dobór technologii:

Konfiguracja stacku technologicznego (preferowane Unsloth, QLoRA, Hugging Face Peft).

Optymalizacja sprzętowa: Doradztwo, czy proces przeprowadzić na lokalnym GPU (RTX 3090/4090), czy w chmurze (RunPod/Lambda), aby zminimalizować koszty.

Validacja i ewaluacja:

Jak poprawnie sprawdzić, czy model po treningu realnie zyskał na jakości w zakładanym obszarze.

Wymagania:

Praktyczne doświadczenie w fine-tuningu modeli otwartoźródłowych (Llama, Mistral, Bielik).

Biegłość w Pythonie oraz bibliotekach: transformers, peft, bitsandbytes.

Mile widziana znajomość specyfiki języka polskiego w modelach LLM (praca na polskich datasetach).

Umiejętność przekazywania wiedzy w sposób przystępny.

Oferuję:

Budżet na doradztwo:do ustalenia stawka godzinowa lub fix za konkretne etapy).

Elastyczne godziny spotkań online.Konkretny cel projektowy bez zbędnej biurokracji.

Proszę o kontakt osoby, które mają za sobą przynajmniej jeden udany proces fine-tuningu zakończony wdrożeniem modelu.

Informacja od Useme:

Rozliczenie realizacji tego zlecenia będzie możliwe dla osób posiadających:

- ważną legitymację studencką lub szkolną (do 26. r.ż.);

- zatrudnienie na podstawie umowy o pracę lub zlecenia (z co najmniej minimalnym wynagrodzeniem);

- własną działalność gospodarczą.