Il Framework SLM di LinkedIn per la Comprensione delle Offerte di Lavoro
LinkedIn ha sviluppato un framework di modellazione semantica unificato per la comprensione su larga scala delle offerte di lavoro, basato su un piccolo modello linguistico (SLM). Il framework affronta la sfida di trasformare annunci di lavoro non strutturati in attributi standardizzati. Prevede il fine-tuning di un SLM open-source con compiti sintetici arricchiti da tracce di ragionamento, mirando sia alla classificazione guidata da tassonomia che all'estrazione di entità. Viene introdotta un'architettura multi-adattatore con raggruppamento di attributi per migliorare scalabilità ed efficienza. Il sistema raggiunge una robusta generalizzazione zero-shot in contesti strutturati e non strutturati.
Fatti principali
- LinkedIn ha sviluppato un framework di modellazione semantica unificato per la comprensione delle offerte di lavoro.
- Il framework è basato su un piccolo modello linguistico (SLM).
- Trasforma annunci di lavoro non strutturati in attributi standardizzati.
- Il fine-tuning utilizza compiti sintetici con tracce di ragionamento.
- I compiti includono classificazione guidata da tassonomia ed estrazione di entità.
- Viene utilizzata un'architettura multi-adattatore con raggruppamento di attributi.
- Il sistema raggiunge la generalizzazione zero-shot.
- L'articolo è disponibile su arXiv.