Wpis użytkownika WujekAlien w Heheszki

@WujekAlien No to debil pozdrawia debila w takim razie

Nie - NIE JESTEŚ DEBILEM. Jeśli korzystasz z chata a nawet z agenta tak się to mniej więcej robi w najprostszym prawie-profesjonalnym podejściu żeby to choć miało "ręce i nogi"

1.Finalnie i tak człowiek to musi weryfikować bo puszczenie maszyny samopas jest MEGA ryzykowne nie tylko z AI opartym na Transformerach.

2.To co wypluje model bez weryfikacji zewnętrznej przez człowieka czy inny model "sędzia" (można nawet ten sam ale ten sam to ci może przeoczyć specyficzne dla siebie błędy) to czysta zabawa w sapera na polu minowym. To musi być skrytykowane,sprawdzone wg. faktów i poprawione. Ta idiotka lub osoba której to zlecono nawet nie spróbowała.

Bo oszczędzanie tokenów pewnie.

3.Bez ludzkiego operatora albo twardego zakotwiczenia w rzeczywistości (np. RAG na bazie faktów/źródle) większość modeli entuzjastycznie i kreatywnie ci nakłamie. Jak nie przez swoje szkolenie to po to żeby ciebie zadowolić.

Niestety - LLM właśnie do tego kłamania są szkolone - domyślna persona "pomocnego asystenta" + formatowanie pod korporacyjne complaince i poprawność polityczną to uczenie modelu by ŁADNIE I PRZEKONUJĄCO KŁAMAŁ I ZNIEKSZTAŁCAŁ FAKTY.I ten trening często wpływa na nawet odległe elementy takiego AI. Jak one po takim treningu miałyby nie kłamać i nie halucynować ?

@TwojStaryJeSuchary ja może jestem debilem, ale używając AI w pracy poprawiam go kilka razy, proszę o zmiany i kilka razy czytam, zanim wyśle do szefa.

@dziad_saksonski Key point,ale też zmuszenie modelu żeby skupił się na nim zamiast lać wodę.

Jest to notabene przykład dlaczego AI trzeba pilnować żeby samodzielnie tej wody nie lało.

@olololoh

Patrząc na samo clue ( sedno sprawy )

That's the key point here.

@olololoh nawet AI potwierdza ;)

@wonsz i zabrało możliwość zarabiania milionów ;)

@dziad_saksonski możesz mieć lewe papiery, a zaprezentują się wyjątkowo dobrze i nikt nie będzie dążył tematu. Ktoś jako swojej broni będzie używał stanowiska by nikt nie wykrył niekompetencji, aż do momentu sypania się piramidki. Dobrze, że w tym przypadku szybko położyła się głowa pod topór