HyperAIHyperAI

Command Palette

Search for a command to run...

PatentBERT: Patentklassifizierung durch Feinabstimmung eines vortrainierten BERT-Modells

Jieh-Sheng Lee; Jieh Hsiang

Zusammenfassung

In dieser Arbeit konzentrieren wir uns auf das Feinjustieren eines vorab trainierten BERT-Modells und dessen Anwendung zur Patentklassifizierung. Bei der Verarbeitung von großen Datensätzen mit über zwei Millionen Patentschriften übertrifft unser Ansatz den Stand der Technik, insbesondere im Vergleich zu einem Ansatz, der CNNs mit Wortvektoren verwendet. Darüber hinaus fokussieren wir uns ausschließlich auf Patentansprüche, ohne andere Teile der Patentschriften zu berücksichtigen. Unsere Beiträge umfassen: (1) eine neue Methodik am Stand der Technik, die auf dem vorab trainierten BERT-Modell und dessen Feinjustierung für die Patentklassifizierung basiert, (2) einen umfangreichen Datensatz USPTO-3M auf CPC-Unterklassen-Ebene, einschließlich SQL-Anweisungen, die zukünftige Forscher nutzen können, (3) die Demonstration, dass allein Patentansprüche ausreichend sind für die Klassifikationsaufgabe, im Gegensatz zur herkömmlichen Meinung.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp