Vorlon2

Uruchamianie modeli językowych na Androidzie w terminalu. Na razie procesory w telefonach są zbyt słabe na generowanie szybkich odpowiedzi przy modelach większych niż powiedzmy 2B, ale to działa. Można mieć działający lokalnie LLM bez dostępu do internetu.

Symulator szybkości odpowiedzi modeli LLM. Wpisujesz ilość tokenów na sekundę i w okienku widzisz, jak szybko jest generowana odpowiedź.

Llama 3 to niesamowity, otwarty, duży model językowy. Wagi wariantu 70B zostały opublikowane w formacie 130 GBb float16 tensorów safetensors. Mniejszy wariant, 8B , waży 15 GB. Dzięki metodom kwantyzacji możemy uruchomić te modele na sprzęcie konsumenckim, zachowując przy tym dobrą jakość. Testowałem, jak bardzo kwantyzacja wpływa na wariant Instruct tych modeli, korzystając z 

Pozwala wprowadzić do 333 znaków, przetłumaczyć na 29 języków, wybrać głos, posłuchać jak brzmi tekst i go pobrać. UWAGA! Jak jesteśmy zalogowani na konto w ElevenLabs to nam pobiera z naszego limitu 10000 znaków. Jak jesteśmy wylogowani, to nie pobiera.

Krótki test możliwości AI w korekcie polskiego tekstu.
Błędy w testowym tekście:

1. brak dużej litery
   
2. 7x podwójna spacja
   
3. podwójne aa
   
4. refleksii
   
5. dajo  
   
6. wartośći 
   
7. bóduje
   

Prompt/zadanie:
wylistuj wszystkie błędy ortograficzne, pomiń sprawdzanie przecinków, stosuj zasady dla pisowni języka polskiego w tekście "..."
Model - ilość znalezionych błędów:
GPT 4

wgrywamy pliki pdf na nasz dysk Google 2. zatwierdzamy w ustawieniach Gmail zgodę 2x na "Smart Compose" (nie ma tego na filmie) i zatwierdzamy zmiany naciskając SAVE 3. włączamy w Gemini - Rozszerzenia "Google Workspace" 4. każde zapytanie o pliki zaczynamy od @Google Drive

Kompresor zapytań do modeli językowych. Kompresja od 2x-20x. Pozwala zaoszczędzić na wysyłanych tokenach jak pytamy jakiś model AI.

Filtry, efekty, animacje, ramki, generator i czytnik kodów QR i sporo innych funkcji. Photoshop to nie jest, ani Photopea, ale może się przydać.
lunapic #grafika #grafikakomputerowa #fotografia