[18 plus] Eltenowy Hydepark (Wątek ogólny, wszystkie chwyty dozwlone)

Za to grok chyba już na dobre przestał istnieć w darmowej wersji.

Stawiał ktoś ollamę? Wydaje się proste.

A masz wystarczająco mocny skomp, żeby odpalać lokalne modele? Czy będziesz używał jakiegoś api np. gpt?

Mam

Używałem, postawienie jest tak łatwe, jak o tym piszą w dokumentacji. instalujesz, chyba nawet nie trzeba niczego do PATH dodawać, choć nie wiem, bo ni mam windowsa i tyle. Usługa się zdaje podnosi sama z systemem. Potem tylko samą ollamą już instalujesz model, uruchamiasz i masz w konsoli klepadło.

Ale do tej pory, może z własnej ignoranji nie spotkałem się z modeem, który bez agenta byłby czymś więcej, niż zwykłym czatem. Więc polecenie w stylu "Znajdź w internecie" Nie zadziała.

Jak nie masz windowsa to jak mi odpowiadasz?
Da się potem zrobić coś, żeby mieć dostęp do tego poza konsolą?

Jest w ollamie przełącznik
Disable web search
Enable web search

Ja stawiałam i to rzeczywiście jest proste, nawt nie musisz odpalać konsoli, wszystko wyklikujesz z tego interfejsu webowego

Teoretycznie postawiłem, ale żeby mieć dostęp przez przeglądarkę, podobno potrzebny jest jakiś docker desktop, a mi windows to blokuje.
W konsoli działa, ale średnio mi się to na razie podoba.

Da fuck? Ja żadnego Dockera nie potrzebowałam. Chyba że już go miałam wcześniej zainstalowanego a nie pamiętam.

To jest jeszcze taki program któy się nazywa LMStudio. Robi podobne rzeczy jak Ollama, tylko że nie ma tam chyba modeli chmurowych tak jak w Ollama Cloud.

Zainstalowałem.
To normalne, że model który w całości nie mieści się w wram siedzi sobie w ram?
Myślałem, że to co się da wejdzie do wramu, tym czasem obciążenie procesora 42% a wram 15% i 80% zajętości ramu. Model mniejszy siedzi tam gdzie powinien. Ale generalnie już mi się podoba.

No cóż, lokalne AI Willkommen :P, choć jak dla mnie na obecną chwilę wszelkie lokalne chaty na sprzęcie konsumenckim są trochę bezużyteczne, no chyba że masz już serio rozsądniejszą grafikę. Z tym mieszczeniem się w VRamie - najlepiej, gdy model w 100% się w nim mieści. Może być to sprawa tego, jak Ollama czy tam LMStudio przypisują zasoby, co możesz manualnie sobie kontrolować. Inna sprawa, że jak zapchasz cały VRam to model się wypieprzy, bo nie będzie gdzie miał pchać KontekstWindow unt w skrócie się wykonywać, a to objawi się pięknym out of memory XD

-- (mustafa):
Zainstalowałem.
To normalne, że model który w całości nie mieści się w wram siedzi sobie w ram?
Myślałem, że to co się da wejdzie do wramu, tym czasem obciążenie procesora 42% a wram 15% i 80% zajętości ramu. Model mniejszy siedzi tam gdzie powinien. Ale generalnie już mi się podoba.


--

Jak oglądam niektóe wywiady, spotkania online, to załamka nad prowadzącymi. Odgłosów teoretycznego podtrzymywania komunikacji "mhm, uhum, oo, ah, uhyh" jest tyle, że aż przeszkadzają w rozmowie niż cokolwiek dają. Wielu redaktorom przydałoby się zamknąć i po prostu słuchać. To jak próbują nieudolnie zaznaczyć swoją obecnośc w rozmowie jest wręcz żenujące niejednokrotnie.

To nie do końca tak; oni interagują w ten sposób z rozmówcami, a nie - zaznaczają swoją obecność. Tego uczy się teraz przy technikach aktywnego i wspierającego słuchania.
-- (Postukujacy):
Jak oglądam niektóe wywiady, spotkania online, to załamka nad prowadzącymi. Odgłosów teoretycznego podtrzymywania komunikacji "mhm, uhum, oo, ah, uhyh" jest tyle, że aż przeszkadzają w rozmowie niż cokolwiek dają. Wielu redaktorom przydałoby się zamknąć i po prostu słuchać. To jak próbują nieudolnie zaznaczyć swoją obecnośc w rozmowie jest wręcz żenujące niejednokrotnie.

--

Mi to nie przeszkadza, ale 1 czeski podcast kiedyś słuchałem, to tam faktycznie babka co chwilę mruczała na zgodę, a to było już słabe.

Mhm, tak, słucham cię, no tak. A ja skupiając się na potakiwaniu co chwila miałbym problem ze skoncentrowaniem się na aktywnym słuchaniu osoby, z którą rozmawiam :D

Tak, ale przyznaj, że czasami to wkurzające, w niektórych sytuacjach wręcz brzmiące jak naigrywanie się z słuchacza
-- (Julitka):
To nie do końca tak; oni interagują w ten sposób z rozmówcami, a nie - zaznaczają swoją obecność. Tego uczy się teraz przy technikach aktywnego i wspierającego słuchania.
-- (Postukujacy):
Jak oglądam niektóe wywiady, spotkania online, to załamka nad prowadzącymi. Odgłosów teoretycznego podtrzymywania komunikacji "mhm, uhum, oo, ah, uhyh" jest tyle, że aż przeszkadzają w rozmowie niż cokolwiek dają. Wielu redaktorom przydałoby się zamknąć i po prostu słuchać. To jak próbują nieudolnie zaznaczyć swoją obecnośc w rozmowie jest wręcz żenujące niejednokrotnie.

--

--

@Julitka: Kumam o co chodzi, jednocześnie robią to aż do porzygu, lepiej by tak nie robili niż sięodzywali. Napisałem, ze zaznaczają swoją obecność, bo czasami dwie prędkości myślenia aż rażą w oczy. Przychodzi jakiś specjalista, profesor, ktokolwiek, który ma charyzmę, ma gadane, ale rozmawia z świerćinteligentem, którego wkład w rozmowę to własnie te próby okazania, że cokolwiek z tej mądrej gadki rozumie. W takich sytuacjach lepiej by faktycznie posłuchał i nie przeszkadzał niż zagłuszał, skoro i tak nie bardzo orientuje się w temacie, a próby udawania spełzają na niczym :D