Atyaephyra at SemEval-2025 Task 4: Low-Rank Negative Preference Optimization

Kód výsledku v IS VaVaI

<a href="https://www.isvavai.cz/riv?ss=detail&h=RIV%2F00216208%3A11320%2F25%3A10511573" target="_blank" >RIV/00216208:11320/25:10511573 - isvavai.cz</a>

Výsledek na webu

<a href="https://aclanthology.org/2025.semeval-1.187/" target="_blank" >https://aclanthology.org/2025.semeval-1.187/</a>

DOI - Digital Object Identifier

—

Jazyk výsledku

angličtina

Název v původním jazyce

Atyaephyra at SemEval-2025 Task 4: Low-Rank Negative Preference Optimization

Popis výsledku v původním jazyce

We present a submission to the SemEval 2025 shared task on unlearning sensitive content from LLMs. Our approach employs negative preference optimization using low-rank adaptation. We show that we can utilize this combination to efficiently compute additional regularization terms, which help with unlearning stabilization. The results of our approach significantly exceed the shared task baselines.

Název v anglickém jazyce

Atyaephyra at SemEval-2025 Task 4: Low-Rank Negative Preference Optimization

Popis výsledku anglicky

We present a submission to the SemEval 2025 shared task on unlearning sensitive content from LLMs. Our approach employs negative preference optimization using low-rank adaptation. We show that we can utilize this combination to efficiently compute additional regularization terms, which help with unlearning stabilization. The results of our approach significantly exceed the shared task baselines.

Druh

D - Stať ve sborníku

CEP obor

—

OECD FORD obor

10201 - Computer sciences, information science, bioinformathics (hardware development to be 2.2, social aspect to be 5.8)

Projekt

<a href="/cs/project/EH23_025%2F0008691" target="_blank" >EH23_025/0008691: AI zaměřená na člověka pro udržitelnou a adaptabilní společnost</a><br>

Návaznosti

P - Projekt vyzkumu a vyvoje financovany z verejnych zdroju (s odkazem do CEP)<br>I - Institucionalni podpora na dlouhodoby koncepcni rozvoj vyzkumne organizace

Rok uplatnění

2025

Kód důvěrnosti údajů

S - Úplné a pravdivé údaje o projektu nepodléhají ochraně podle zvláštních právních předpisů

Název statě ve sborníku

Proceedings of the 19th International Workshop on Semantic Evaluation (SemEval-2025)

ISBN

979-8-89176-273-2

ISSN

—

e-ISSN

—

Počet stran výsledku

8

Strana od-do

1415-1422

Název nakladatele

Association for Computational Lingustics

Místo vydání

Kerrville, TX, USA

Místo konání akce

Wien, Austria

Datum konání akce

31. 7. 2025

Typ akce podle státní příslušnosti

WRD - Celosvětová akce

Kód UT WoS článku

—