Qdrant führt mit BM42 einen neuen, auf Retrieval Augmented Generation zugeschnittenen Suchalgorithmus ein, der die Vorteile von Transformern nutzt.
Das Vektordatenbank-Startup Qdrant will seine quelloffene Datenbank und Vector Search Engine gezielter auf moderne Anwendungsfälle im Bereich KI und Suche wie insbesondere Retrieval Augmented Generation zuschneiden. Dazu präsentiert das Unternehmen jetzt unter der Bezeichnung BM42 einen neuen Suchalgorithmus, der als Alternative zu etablierten Varianten wie etwa BM25 oder SPLADE positioniert wird.
Im Unterschied zu klassischen Suchanwendungen sind bei RAG-Systemen die Dokumente in der Regel viel kürzer. Der BM42-Algorithmus adressiert dieses Problem, indem er die Termgewichtung innerhalb eines Dokuments durch semantische Informationen aus Transformer-Modellen ersetzt.
Vasnetsov zufolge kann BM42 durch das Verwenden der Attention-Werte die semantische Bedeutung von Wörtern berücksichtigen, ohne auf zusätzliches Training angewiesen zu sein. Dabei wird eine spezielle Tokenisierungsmethode eingesetzt, die besser für Suchaufgaben geeignet ist. Das Tokenrepräsentiert die gesamte Sequenz in den Klassifizierungsaufgaben.
sentences="Hello, World - is the starting point in most programming languages" features=transformer.tokenize # ... attentions=transformer.auto_model.attentions weights=torch.mean # ▲ ▲ ▲ ▲ # │ │ │ └─── token is the first one # │ │ └─────── First item of the batch # │ └────────── Last transformer layer # └────────────────────────── Averate all 6 attention heads for weight, token in zip: print # : 0.434 // Filter out the token # hello : 0.039 # , : 0.039 # world : 0.
Künstliche Intelligenz Machine Learning Qdrant Retrieval Augmented Generation Suche Transformer Vektordatenbanken Semantische Suche
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Studie: Wahlwerbung der AfD von Meta-Algorithmus bevorzugtForschende haben untersucht, wie Facebook und Instagram politische Werbung ausspielen. Und festgestellt: Der Algorithmus des Meta-Konzerns bevorzugt offenbar populistische Inhalte. Und das ist längst nicht das einzige Problem.
Weiterlesen »
KI-Algorithmus entdeckt Alzheimer sechs Jahre im VorausKünstliche Intelligenz kann dabei helfen, Demenz-Patienten zu erkennen, bevor die Krankheit richtig ausbricht. So sind frühere Behandlungen möglich.
Weiterlesen »
Mittelsachsen: Keine neuen Erkenntnisse: Suche nach Valeriia dauert anDöbeln (sn) - Zur vermissten Grundschülerin aus dem sächsischen Döbeln gibt es nach Angaben der Polizei weiterhin keine neuen Erkenntnisse. Die Suche
Weiterlesen »
Sachsen: Keine neuen Erkenntnisse: Suche nach Valeriia dauert anAktuelle Nachrichten aus Sachsen
Weiterlesen »
Suche nach einem neuen Monitor 24Im ComputerBase-Forum diskutieren technikbegeisterte Menschen über Computer, Notebooks, Smartphones, Tablets, Games etc.
Weiterlesen »
Die Suche nach neuen Minen: Goldabbau in der Krise: Rohstoffexperten warnen vor Engpässen!© Foto: Sven Hoppe/dpaGold-Vorkommen sind immer schwieriger auffindbar. Laut dem World Gold Council (WGC) sind die Aussichten für nachhaltiges Wachstum begrenzt.'Obwohl wir im ersten Quartal 2024 ein Wachstum
Weiterlesen »