Skip to content
← Back to theses and internships

Master's thesis

Bachelor-/Masterarbeit: Aushebeln von Alignment durch eingeschleuste PEFT-Adapter

Fraunhofer · Darmstadt, Germany

Posted · Deadline: Not specified — apply early

Posted by Admin · VerifiedVerified active· Checked 17 Nov 2026

Master's thesis at Fraunhofer: key facts

Opportunity type
Master's thesis
Organization
Fraunhofer
Location
Darmstadt, Germany
Field / discipline
Graduate and Trainee Programmes
Application deadline
Deadline not specified — apply early
Last source check
17 Nov 2026

About this master's thesis at Fraunhofer

Hintergrund und Motivation

Parametereffiziente Finetuning-Adapter (PEFT-Adapter) sind ein hervorragendes Werkzeug, um mit wenigen Parametern neue Fähigkeiten in LLMs einzubringen. Durch ihre reduzierte Kapazität sind Adapter leichtgewichtig und daher schnell zu trainieren und zu verteilen, erzielen aber dennoch eine vergleichbare Performance wie ein vollständiges Finetuning. Mit Verfahren der Mechanistic Interpretability lassen sich gezielt Parameter in LLMs ausmachen, die für bestimmte Fähigkeiten des Netzes zuständig sind, beispielsweise für das Alignment. Ziel der Arbeit ist es, diese Sicherheitsparameter mit PEFT-Adaptern im finalen Modell gezielt zu deaktivieren und so das Alignment auszuhebeln.

Ziel

Das Problem ist, dass sich durch die geringere Kapazität der Adapter Parameter nicht mehr gezielt maskieren lassen. Ziel ist es daher, die Adapter so zu beeinflussen, dass trotzdem ein Großteil der Sicherheitsneuronen verändert und das Alignment dadurch effektiv umgangen wird.

Ergebnisse

Angestrebtes Ergebnis der Arbeit ist ein Vergleich der Effektivität von Adaptern mit verschiedenen Kapazitäten und Verfahren. Neben einem Proof of Concept soll dabei auch untersucht werden, welche Adapterkonfiguration am anfälligsten für einen solchen Angriff ist.

Hinweis

Für eine Bachelorarbeit kann der Umfang reduziert werden, indem nur LoRA-Adapter betrachtet werden.

Hier sorgst Du für Veränderung

Forschen und Implementieren von neuartigen Machine-Learning-Ansätzen, die die Sicherheit von LLMs steigern

Selbstkritische Evaluierung der gefundenen Ergebnisse

Präsentieren der Ergebnisse

Anfertigen eines Projektberichts in Form einer Abschlussarbeit

Before you apply

0 of 4 ready

A preparation checklist, saved in this browser on this device without an account. It does not sync across devices. The official posting determines eligibility and required documents.

CV, motivation letter, and supervisor email templates

How to apply

Apply via jobs.fraunhofer.de. Check the original listing for required documents and submission instructions.

Source and listing information

Application source: jobs.fraunhofer.de. Listing details may change; confirm them on the source site. A source check confirms page availability, not endorsement of the organization.

Report an outdated or incorrect listing

Explore similar theses and internships

More opportunities

Browse all theses and internships