Vektorkompetenz

AI in Veterinary Medicine
and Biology2026

Vortrag · Stiftung Tierärztliche Hochschule Hannover · 2. November 2026

Vektorkompetenz

KI in Versuchstierkunde, Tiermedizin und Biologie, von der Leitlinie bis zum Gangbild.

PD Dr. Steven R. Talbot

Hier finden Sie die Folien mit allen Klickschritten, ein Labor zur Kosinusähnlichkeit und Literatur zu jedem Thema des Vortrags.

23 Folien · alle Klickschritte

Folien

Weiter mit Klick auf die Folie, Pfeiltaste oder Wischen. Animationen und Videos laufen wie im Vortrag.

← → Schritt · F Vollbild · Nummer und ↵ springt zur Folie Der Anhang des Vortrags ist nicht enthalten.

Zum Ausprobieren · Folie 9 und 10

Kosinus-Labor

Jeder Textabschnitt wird zu einem Vektor, einem Pfeil vom Nullpunkt aus. Die Kosinusähnlichkeit hängt nur vom Winkel zwischen zwei Pfeilen ab, ihre Länge geht nicht ein.

Pfeile in der Ebene

Die drei Bälle aus dem Hörsaal. Ziehen Sie einen Ball oder ändern Sie Richtung, Länge und Koordinaten.

RotBlauOrange Rot Blau Orange

Kosinus für jedes Paar; das ähnlichste Paar ist rot umrandet.

Verlängern Sie Blau: Skalarprodukt und euklidischer Abstand ändern sich, Kosinus und Winkel bleiben gleich. Nach dem Normieren hängt auch der Abstand nur noch vom Winkel ab.

cos θ =
Kosinusdistanz 1 − cos θ
Skalarprodukt
Längen
Euklidischer Abstand

Ähnlichkeitssuche mit Wortzählungen

Sechs Textabschnitte als Zählvektoren über vier Wörter, wie das Multi-Hot-Encoding auf Folie 8. Die Frage ist ebenfalls ein Vektor; gesucht wird der ähnlichste Abschnitt.

Frage: Wie oft kommt jedes Wort vor?

Länge des Lehrbuchkapitels

× 1

Spalten: Schwein · Analgesie · Dosis · Planeten

    Mit dem Skalarprodukt gewinnt der längste Text, mit dem Kosinus der Text mit der passendsten Richtung. Die Zählungen sind ausgedachte Beispielwerte; Embeddings wie bge-m3 haben 1.024 Dimensionen und stammen aus einem trainierten Modell.

    51 Titel · nach Themen des Vortrags

    Literatur

    Je Thema zuerst eine Empfehlung für den Einstieg, dann Originalarbeiten, Kritik und Praxis. Frei lesbare Texte sind markiert. Die Foliennummern bei jedem Thema öffnen die passende Folie im Foliensatz.

    Zum Anfangen

    1. [9] Kosinus und Vektorraum, frei als PDF
    2. [5] Das RAG-Prinzip
    3. [21] Quellenzuordnung durch Weglassen

    Wissen im Modell und Halluzination

    Folien 2, 4, 5, 6

    Zum Einstieg Kalai et al.: Bewertungen, die nur richtige Antworten zählen, machen Raten attraktiver als die Antwort „weiß ich nicht“. Roberts et al. misst, wie viel Faktenwissen ein Modell ohne Quelle abrufen kann.

    1. [1]
      Schmerzrichtung in Sprachmodellen · Preprint
      Tagliabue, V., Dung, L., Berg, C. (2026). The Pain Axis: LLMs Represent Self-Directed Harm and Act on It. arXiv-Preprint.
    2. [2]
      Halluzination · Einstieg
      Kalai, A. T. et al. (2026). Evaluating large language models for accuracy incentivizes hallucinations. Nature 653(8116), 1047–1051.
      Erklärt, warum Modelle raten statt „weiß ich nicht“ zu sagen. Vorfassung: Why Language Models Hallucinate, arXiv:2509.04664.
    3. [3]
      Closed-book-Fragen · Original
      Roberts, A., Raffel, C., Shazeer, N. (2020). How Much Knowledge Can You Pack Into the Parameters of a Language Model? EMNLP 2020, 5418–5426.
      Fragen ohne Quelle, beantwortet nur aus den Modellparametern (Folie 6).
    4. [4]
      Halluzinationen erkennen · Original
      Farquhar, S. et al. (2024). Detecting hallucinations in large language models using semantic entropy. Nature 630(8017), 625–630.
      Mehrere Antworten auf dieselbe Frage werden nach Bedeutung gruppiert; große Streuung zeigt erfundene Antworten an.

    Retrieval Augmented Generation

    Folien 7, 14

    Das Verfahren stammt von Lewis et al. Einen Überblick über Varianten und ihre Bewertung gibt Gao et al.; Liu et al. zeigt, dass die Position einer Textstelle im Kontext die Antwort beeinflusst.

    1. [5]
      Retrieval Augmented Generation · Original
      Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 33.
      Das Prinzip auf Folie 7: erst in Fachtexten suchen, dann mit den gefundenen Stellen antworten.
    2. [6]
      RAG-Varianten · Übersicht
      Gao, Y. et al. (2023). Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv-Preprint.
      Vom einfachen Suchen und Antworten bis zu modularen Abläufen, mit Bewertungsverfahren.
    3. [7]
      Lange Kontexte · Vertiefung
      Liu, N. F. et al. (2024). Lost in the Middle: How Language Models Use Long Contexts. Transactions of the Association for Computational Linguistics 12, 157–173.
      Stellen in der Mitte eines langen Kontexts nutzen Modelle schlechter als Stellen am Anfang oder Ende.
    4. [8]
      Kontextsatz je Textabschnitt · Praxis
      Anthropic (2024). Introducing Contextual Retrieval. Blogbeitrag, nicht begutachtet.
      KLUQ stellt jedem Textabschnitt einen erklärenden Satz voran, der mitgesucht wird.

    Vektoren, Kosinusähnlichkeit und Embeddings

    Folien 8, 9, 10, 11

    Zum Einstieg Kapitel 6 von Manning et al. mit Rechenbeispielen zu Kosinus und Längennormierung. Jurafsky und Martin erklären, wie aus Wortzählungen gelernte Embeddings werden.

    1. [9]
      Vektorraummodell und Kosinus · Einstieg
      Manning, C. D., Raghavan, P., Schütze, H. (2008). Introduction to Information Retrieval, Kap. 6: Scoring, term weighting and the vector space model. Cambridge University Press.
      Kosinusähnlichkeit, Gewichtung von Wörtern und Normierung auf die Dokumentlänge, mit Rechenbeispielen. Die Stanford-Seite des Buchs war am 30.10.2026 nicht erreichbar; der Link führt zur Kopie im Internet Archive vom 04.10.2026. Beim Verlag: doi.org/10.1017/CBO9780511809071.
    2. [10]
      Embeddings · Einstieg
      Jurafsky, D., Martin, J. H. (2026). Speech and Language Processing, 3. Aufl., Kap. 5: Embeddings. Online-Entwurf vom 19.08.2026.
      Vom Zählen von Wörtern zu gelernten Vektoren. Die Kapitelnummern ändern sich zwischen den Entwürfen.
    3. [11]
      Vektorraummodell · Original
      Salton, G., Wong, A., Yang, C. S. (1975). A Vector Space Model for Automatic Indexing. Communications of the ACM 18(11), 613–620.
      Texte als Vektoren aus Wortgewichten, verglichen über den Kosinus.
    4. [12]
      Wortvektoren · Original
      Mikolov, T. et al. (2013). Efficient Estimation of Word Representations in Vector Space. arXiv-Preprint.
      word2vec: Wortvektoren, gelernt aus den Nachbarwörtern im Text.
    5. [13]
      Satzvektoren · Original
      Reimers, N., Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. EMNLP-IJCNLP 2019, 3980–3990.
      Ganze Sätze als Vektoren, verglichen über den Kosinus; Grundlage vieler Suchsysteme.
    6. [14]
      Embedding-Modell bge-m3 · Original
      Chen, J. et al. (2024). M3-Embedding: Multi-Linguality, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillation. Findings of ACL 2024, 2318–2335.
      Das Modell im KLUQ-Index: 1.024 Zahlen je Textabschnitt, mehrsprachig.
    7. [15]
      Grenzen des Kosinus · Kritik
      Steck, H., Ekanadham, C., Kallus, N. (2024). Is Cosine-Similarity of Embeddings Really About Similarity? WWW 2024 Companion, 887–890.
      An linearen Modellen gezeigt: Je nach Regularisierung können Kosinuswerte gelernter Embeddings beliebig ausfallen.
    8. [16]
      Embedding-Modelle vergleichen · Praxis
      Muennighoff, N. et al. (2023). MTEB: Massive Text Embedding Benchmark. EACL 2023, 2014–2037.
      Vergleich vieler Modelle über Aufgaben wie Retrieval, Clustering und Klassifikation.

    Korpus und Projektion mit UMAP

    Folien 12, 13

    In UMAP-Bildern sind lokale Nachbarschaften aussagekräftiger als Abstände zwischen weit entfernten Gruppen. Chari und Pachter sowie Kobak und Linderman zeigen an Einzelzelldaten, wie stark die Darstellung von Parametern und Initialisierung abhängt.

    1. [17]
      UMAP · Original
      McInnes, L., Healy, J., Melville, J. (2018). UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction. arXiv-Preprint.
      Folie 12: 6.896 Textabschnitte der GV-SOLAS in zwei Dimensionen.
    2. [18]
      UMAP in der Biologie · Anwendung
      Becht, E. et al. (2019). Dimensionality reduction for visualizing single-cell data using UMAP. Nature Biotechnology 37(1), 38–44.
      Frei lesbar ist ein Preprint mit anderem Titel: doi.org/10.1101/298430.
    3. [19]
      Grenzen von Projektionen · Kritik
      Chari, T., Pachter, L. (2023). The specious art of single-cell genomics. PLOS Computational Biology 19(8), e1011288.
      Zweidimensionale Projektionen verzerren Abstände und Nachbarschaften stark.
    4. [20]
      Initialisierung · Kritik
      Kobak, D., Linderman, G. C. (2021). Initialization is critical for preserving global data structure in both t-SNE and UMAP. Nature Biotechnology 39(2), 156–157.
      Die Anordnung großer Gruppen hängt vor allem von der Initialisierung ab. Preprint frei: doi.org/10.1101/2019.12.19.877522.

    Quellenzuordnung, Stabilität und Ground Truth

    Folien 13, 14, 15, 16

    ContextCite ist das Verfahren hinter der kontrafaktischen Prüfung auf Folie 13. Wie man eine Antwort Aussage für Aussage gegen ihre Quelle prüft, zeigen Gao et al. und Min et al.

    1. [21]
      Kontrafaktische Prüfung · Original
      Cohen-Wang, B. et al. (2024). ContextCite: Attributing Model Generation to Context. NeurIPS 37, 95764–95807.
      Textabschnitte werden weggelassen; ändert sich die Antwort, hat der Abschnitt sie beeinflusst. Ein lineares Ablationsmodell schätzt den Einfluss jedes Abschnitts.
    2. [22]
      Antworten mit Quellenangaben · Original
      Gao, T. et al. (2023). Enabling Large Language Models to Generate Text with Citations. EMNLP 2023, 6465–6488.
      Testsammlung und Maße dafür, ob zitierte Stellen eine Aussage stützen.
    3. [23]
      Aussagen einzeln prüfen · Original
      Min, S. et al. (2023). FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation. EMNLP 2023, 12076–12100.
      Zerlegt eine Antwort in einzelne Aussagen und prüft jede gegen eine Wissensquelle.
    4. [24]
      Mehrfach fragen · Original
      Wang, X. et al. (2023). Self-Consistency Improves Chain of Thought Reasoning in Language Models. ICLR 2023.
      Viele Antworten erzeugen, die häufigste wählen. Der Stabilitätstest auf Folie 15 stellt jede Frage 30-mal.
    5. [25]
      Nichtdeterminismus · Vertiefung
      Atıl, B. et al. (2025). Non-Determinism of “Deterministic” LLM System Settings in Hosted Environments. Eval4NLP 2025, 135–148.
      Auch mit Einstellungen, die als deterministisch gelten, liefern gehostete Modelle bei Wiederholung verschiedene Antworten.
    6. [26]
      Unsichere Referenz · Vertiefung
      Stutz, D. et al. (2025). Evaluating medical AI systems in dermatology under uncertain ground truth. Medical Image Analysis 103, 103556.
      Bewertung von KI-Systemen, wenn schon die Referenz unsicher ist, weil Fachleute verschieden urteilen. Preprint frei: arxiv.org/abs/2307.02191.
    7. [27]
      GV-SOLAS-Fachinformation 2020 · Quelle
      GV-SOLAS, Ausschuss für Anästhesie und Analgesie, und TVT, Arbeitskreis 4 (2020). Schmerztherapie bei Versuchstieren. Fachinformation, Stand September 2020.
      Die Fassung, aus der KLUQ auf Folie 14 zitiert.
    8. [28]
      GV-SOLAS-Fachinformation 2025 · Quelle
      GV-SOLAS, Ausschuss für Anästhesie, und TVT, Arbeitskreis 4 (2025). Schmerztherapie bei Versuchstieren. Fachinformation, Stand September 2025.
      Folie 16 vergleicht ihre Dosierungstabelle Schwein mit der Fassung von 2020.

    Human in the Loop und Regeln

    Folie 17

    Art. 14 der KI-Verordnung regelt die menschliche Aufsicht über Hochrisiko-KI-Systeme. Das NIST-Rahmenwerk ordnet Risiken und Gegenmaßnahmen und ist freiwillig.

    1. [29]
      Human in the Loop · Blogbeitrag
      Booth, H. et al. (2026). Design Tenets for Agent Identity Management Systems. NIST Cybersecurity Insights, Blogbeitrag, nicht begutachtet.
      Tenet 05 („Human-in-the-Loop Triggers“): Organisationen legen Risikoschwellen fest, ab denen ein Mensch die Aktionen eines Agenten prüft.
    2. [30]
      Menschliche Aufsicht · Recht
      Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz), Art. 14 Menschliche Aufsicht. ABl. L vom 12.7.2024.
      Hochrisiko-KI-Systeme müssen so gestaltet sein, dass Menschen sie während der Nutzung wirksam beaufsichtigen können.
    3. [31]
      Risikomanagement · Rahmenwerk
      Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. National Institute of Standards and Technology.
      Gliedert das Risikomanagement in die Funktionen Govern, Map, Measure und Manage.
    4. [32]
      Vertrauenswürdige KI · Leitlinien
      High-Level Expert Group on Artificial Intelligence (2019). Ethics Guidelines for Trustworthy AI. Europäische Kommission.
      Sieben Anforderungen, darunter menschliche Aufsicht, Robustheit, Datenschutz und Transparenz (vgl. die Waben auf Folie 17).

    Bild- und Videoanalyse

    Folien 19, 20

    Zum Einstieg die Übersicht von Mathis und Mathis. SuperAnimal liefert vortrainierte Keypoint-Modelle für Vierbeiner, die sich ohne eigene Annotation einsetzen lassen.

    1. [33]
      Verhaltensmessung · Einstieg
      Mathis, M. W., Mathis, A. (2020). Deep learning tools for the measurement of animal behavior in neuroscience. Current Opinion in Neurobiology 60, 1–11.
      Übersicht über Pose-Schätzung und Verhaltensanalyse mit Deep Learning.
    2. [34]
      Keypoints ohne Marker · Original
      Mathis, A. et al. (2018). DeepLabCut: markerless pose estimation of user-defined body parts with deep learning. Nature Neuroscience 21(9), 1281–1289.
      Frei lesbar als Preprint: arxiv.org/abs/1804.03142.
    3. [35]
      Vortrainierte Pose-Modelle · Original
      Ye, S. et al. (2024). SuperAnimal pretrained pose estimation models for behavioral analysis. Nature Communications 15, 5165.
      SuperAnimal-Quadruped liefert die 39 Keypoints je Bild für das Gangbild auf Folie 20.
    4. [36]
      Netzarchitektur HRNet · Original
      Sun, K. et al. (2019). Deep High-Resolution Representation Learning for Human Pose Estimation. CVPR 2019, 5686–5696.
      HRNet-W32 berechnet für jede Bildstelle einen Merkmalsvektor (Folie 19).
    5. [37]
      Optischer Fluss · Original
      Kroeger, T. et al. (2016). Fast Optical Flow Using Dense Inverse Search. ECCV 2016, 471–488.
      DIS-Verfahren für die Bewegung der Flanke beim Atmen (Folie 20).
    6. [38]
      Bewegungsverstärkung · Original
      Liu, C. et al. (2005). Motion Magnification. ACM Transactions on Graphics 24(3), 519–526.
      Verstärkt kleine Bewegungen im Video, bis sie sichtbar werden.

    Modell und Simulation

    Folie 21

    Cranmer et al. erklären simulationsbasierte Inferenz: Ein neuronales Netz lernt aus Simulationen, welche Modellparameter zu Messdaten passen. Gonçalves et al. wendet das auf Modelle von Nervenzellen an.

    1. [39]
      Messdaten · Quelle
      Mazzuoli, G., Schemann, M. (2009). Multifunctional rapidly adapting mechanosensitive enteric neurons (RAMEN) in the myenteric plexus of the guinea pig ileum. The Journal of Physiology 587(19), 4681–4694.
      Publizierte Messpunkte für den Prototyp auf Folie 21 (von-Frey-Reizung, Meerschweinchen-Ileum).
    2. [40]
      Simulationsbasierte Inferenz · Einstieg
      Cranmer, K., Brehmer, J., Louppe, G. (2020). The frontier of simulation-based inference. PNAS 117(48), 30055–30062.
    3. [41]
      Inferenz für Neuronenmodelle · Original
      Gonçalves, P. J. et al. (2020). Training deep neural density estimators to identify mechanistic models of neural dynamics. eLife 9, e56261.
      Ein Netz schätzt aus Simulationen, welche Parameter eines Neuronenmodells zu Messungen passen.

    Agenten

    Folie 22

    ReAct beschreibt die Schleife aus Überlegen, Werkzeugaufruf und Beobachtung (Folie 22). Der Beitrag von Anthropic ist eine praktische Anleitung, wann ein fester Ablauf genügt und wann ein Agent nötig ist.

    1. [42]
      Agentenschleife · Original
      Yao, S. et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. ICLR 2023.
    2. [43]
      Werkzeugaufrufe · Original
      Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. NeurIPS 36, 68539–68551.
      Ein Sprachmodell lernt selbst, wann es Rechner, Suche oder Kalender aufruft.
    3. [44]
      Agenten bauen · Praxis
      Anthropic (2024). Building effective agents. Blogbeitrag, nicht begutachtet.

    Belastungsbeurteilung und KI in der Tiermedizin

    Folie 3

    Hintergrund des Vortrags ist die DFG-Forschungsgruppe FOR 2591 zur Belastungsbeurteilung bei Versuchstieren. Einen Überblick über KI in der Tiermedizin geben Appleby und Basran.

    1. [45]
      Forschungsgruppe FOR 2591 · Hintergrund
      Bleich, A., Tolba, R. H. (2017). How can we assess their suffering? German research consortium aims at defining a severity assessment framework for laboratory animals. Laboratory Animals 51(6), 667.
    2. [46]
      KI in der Tiermedizin · Übersicht
      Appleby, R. B., Basran, P. S. (2022). Artificial intelligence in veterinary medicine. Journal of the American Veterinary Medical Association 260(8), 819–824.
    3. [47]
      Gesichtsausdruck der Maus · Anwendung
      Andresen, N. et al. (2020). Towards a fully automated surveillance of well-being status in laboratory mice using deep learning: Starting with facial expression analysis. PLOS ONE 15(4), e0228059.
      Automatische Auswertung des Gesichtsausdrucks von Labormäusen.
    4. [48]
      Belastung vergleichen · Eigene Arbeit
      Talbot, S. R. et al. (2022). RELSA—A multidimensional procedure for the comparative assessment of well-being and the quantitative determination of severity in experimental procedures. Frontiers in Veterinary Science 9, 937711.
      RELSA gehört zur Severity Toolbox auf Folie 22.
    5. [49]
      Humane Endpunkte · Eigene Arbeit
      Talbot, S. R. et al. (2020). Defining body-weight reduction as a humane endpoint: a critical appraisal. Laboratory Animals 54(1), 99–110.
    6. [50]
      Home-Cage-Monitoring · Eigene Arbeit
      Talbot, S. R., Tolba, R. H., Bleich, A. (2026). Beyond single metrics: Multi-parameter home-cage monitoring improves welfare assessment. Laboratory Animals 60(1), 20–24.
    7. [51]
      Narkoseverlauf beim Hund · Eigene Arbeit
      Kschonek, J. D. et al. (2026). Corridor-based relative severity assessment of the canine anaesthetic course. Frontiers in Veterinary Science 13, 1939921.