RAG z wewnętrznej bazy wiedzy oparty o slacka.

Stworzenie systemu RAG bazującego na naszej wewnętrznej bazie wiedzy (teksty w markdown i dokumenty pdf), po polsku i angielsku.

Wykorzystujemy Slacka i udało mi się stworzyć bota do zbierania pytań i wysyłania odpowiedzi od pracowników, więc etap interfejsu do wpisywania zapytan jest ogarnięty, ale brakuje mi wektorowej bazy danych i samego generatora tekstu.

Jeśli chodzi o bazę wektorowa, to myślałem o postgres + pg_vector. Jeśli chodzi o model LLM, to myślałem nad uruchomieniem go na

na AWS bedrock– zależy mi na pełnej kontroli nad danymi, bo część objęta jest NDA, nie są to dokumentacje do produkcji rakiet, ale nadal powinienem je traktować jako poufne, więc nie bardzo mogę je wrzucić w chataGPT.

Mamy 10 osób, więc to nie będzie póki co duży ruch.