DualOptim+: Überbrückung gemeinsamer und entkoppelter Optimizer States für besseres Machine Unlearning in Large Language Models

Wir schlagen DualOptim+ vor, ein neuartiges Optimierungsframework zur Verbesserung des Machine Unlearning in großen Sprachmodellen. Es führt einen Base State ein, um gemeinsame Repräsentationen zwischen Vergessen- und Beibehaltungszielen zu erfassen, sowie Delta States zur Erhaltung von Zielen.