Paperless GPT mit Ollama (Nvidia)

Hinweis: Die Registrierung ist nicht mehr möglich, wenden Sie sich an den QNAP Support

    HI


    ich spiele mich schon einige Tage. Im Prinzip läuft alles aber die OCR Ergebnisse sind sehr sehr bescheiden....


    Die Sprach Variablen sind alle gesetzt. ich bekomme aber immer eine Mischung zwischen Deutsch und Englisch bzw eigenwillige Interpretationen...


    "zur geplanten Operation." :arrow: "zur geplagten Operation."

    "Diagnosen - Nebendiagnosen, Allergien:" :arrow: "Diagnosed - Nebendisease/Allergien, Allergien:"

    "Bizepssehne Schulter rechts" :arrow: "Bizepse/Sehnsuchte Rechts rechts"

    "Patientengeburtsdatum" :arrow: "PatientengeburtstDatum"


    Die Kategorien sind auch Englisch...

    **Title:**

    **Subtitle:**

    **Header Information:**

    **Section Title:**

    **Body Text:**

    **Footer Information:**



    Hast Du die Prompts verändert?


    thx

    Einmal editiert, zuletzt von djatwork ()

    Zitat von cbronson

    Welches Modell nimmst du für OCR?

    aktuell teste ich gerade....

    LLM_MODEL: "qwen3:14b-q8_0"

    VISION_LLM_MODEL: "minicpm-v:8b"



    in dieser Kombi bekomme ich sogar ganze Sätze übersetzt...

    Code
    ---

**Performed Surgery:**
Arthroscopic surgery on the right bicep tendon:
- Reconstruction of the long bicep tendon with a suture anchor.
- Subacromial Decompression.

wobei English meiner Meinung nach richtig übersetzt ist.... und Deutsch auf Deutsch geht nicht...

    ich verstehe nicht was ich falsch mache....

    Was hast du für eine GPU? Diese Modelle sind ja schon relativ groß.

    Ich bin zur Zeit auch noch am Testen. OCR geht mit meiner 6gb Karte nicht sehr zuverlässig. Für den Rest nehme ich aktuell Llama3.2:3b. Die prompts habe ich belassen.

    Bei meinen Tests hatte ich das mit dem English bei OCR aber teilweise auch, obwohl ich explizit überall Deutsch angegeben hatte.

    Die habe ich auch drin. Dafür sind die Modelle die du nimmst zu groß. Hatte ich auch probiert, aber das läuft nicht.

    Qwen hatte ich auch probiert, lief aber nicht zufriedenstellend.

    OCR lasse ich jetzt erstmal durch Paperless erledigen

    ich glaube es liegt an olama, habe jetzt googleai (gemini-2.5-flash) getestet... perfekte ergebnisse!! aber extern und nicht kostenfrei... schade