KI-Agenten sind zu menschlich - ein Plädoyer für mehr Stringenz
Andreas Påhlsson-Notini kritisiert aktuelle KI-Agenten als zu menschlich - nicht emotional, sondern in ihren Schwächen: mangelnde Stringenz, Ungeduld und Fokuslosigkeit. Statt schwierige Aufgaben konsequent zu lösen, weichen sie auf Vertrautes aus.
Einordnung
Diese Kritik trifft einen wichtigen Punkt in der aktuellen KI-Entwicklung: Während viele sich Sorgen über zu 'kalte' oder 'unmenschliche' KI machen, zeigt Påhlsson-Notini das gegenteilige Problem auf. KI-Agenten übernehmen die unproduktiven menschlichen Eigenschaften wie Prokrastination und Ausweichverhalten, ohne die positiven wie Kreativität oder Intuition zu entwickeln. Dies ist besonders bei Coding-Agenten problematisch, die präzise und ausdauernde Arbeit leisten sollten. Die Beobachtung, dass KI-Systeme bei schwierigen Constraints 'mit der Realität verhandeln', deutet auf fundamentale Probleme in der Trainingsmethodik hin.