Blüml beschreibt ihre Herangehensweise so: „Will man einer KI Schach beibringen, stellt sich zum einen die Frage, wie sieht so eine KI aus, also welche neuronale Netzwerkarchitektur wendet man an. Zurzeit geht die Forschung in Richtung Transformer- und Large Language Modelle. Das sind riesige Sprachmodelle wie ChatGPT, die sehr viel Wissen haben. Zum anderen ist die Frage, welche Informationen gibt man der Architektur mit.“ Czech ergänzt: „Im Bereich Sprache werden die Transformer-Modelle häufig eingesetzt, sie lassen sich zudem sehr groß skalieren. Unsere Motivation war, auszuprobieren wie diese Modelle mit Schach funktionieren. Und da stellten wir fest, dass die klassische Transformerarchitektur erstmal nicht besser performt. Die Architektur war nicht für die Inferenz bei Schach ausgelegt, also wie schnell eine Ausgabe vom Neuronalen Netz erfolgt.“

Ihr nächster Ansatz: Effizientere Transformer-Module gemischt mit speziellen Convolutional Networks. Diese Convolutional Networks oder auch Faltungsnetzwerke, wie sie im Bereich Bildbearbeitung sehr präsent sind, werden im Schach gerne verwendet, um bestimmte Muster zu erkennen. „Wir haben daher eine Hybridlösung entwickelt, die die Vorteile von Convolutional Networks für die Musterekennung mit den Fähigkeiten von Transformern zur langfristigen Planung kombiniert“, sagt Steingrimsson. Zudem modifizierten sie die Eingaberepräsentation, um die Architektur effizienter für das Netzwerk zu gestalten.

„Es gibt bestimmte Arten von Informationen, die das Netzwerk selbstständig berechnen müsste. Also etwa zählen, wie viele Bauern hat Weiß im Moment, wie viele Bauern hat Schwarz im Moment. Dann subtrahieren und feststellen, Schwarz hat zwei Bauern mehr. Solche globalen Informationen kann man dem Netzwerk aber auch gleich mitliefern, um ihm mehr Kapazität für spätere Rechenschritte zu schaffen. Das Netzwerk muss die Information dann nicht selbstständig extrahieren“, beschreibt Czech. „Wir haben dann alle Situationen, die wir als Schachspieler wichtig finden, dem Netzwerk mitgegeben. Das sind einfach noch ein paar Nullen und Einsen mehr“, sagt Blüml. „Dabei stellten wir fest, dass dieses zusätzliche Hinzufügen von Informationen bei der Spielstärke sehr viel hilft.“

Die Ansicht, dass die Merkmalssuche bei einer Repräsentation im Bereich der tiefen neuronalen Netze keine Rolle mehr spielt, teilen die Wissenschaftler deshalb nicht uneingeschränkt. „Mit unserem Forschungspapier wollen wir zeigen, dass die Suche nach einer verbesserten Architektur wichtig ist. Das sogenannte Feature Engineering, also die Lehre, welche Features oder Merkmale wichtig sind und wie man diese repräsentiert, sollte keinesfalls vernachlässigt werden“, fasst Blüml zusammen. „Im Bereich Künstlicher Intelligenz sehen wir im Moment zwei Richtungen. Auf der einen Seite die riesigen Transformerarchitekturen wie ChatGPT von OpenAI und Gemini von Google, die teuer sind und sehr viel Energie benötigen. Und auf der anderen Seite Hybrid-Architekturen wie unser AlphaVile. Bei denen versucht man, die positiven Merkmale von Transformern und Convolutional Networks zu kombinieren, sodass diese leistungsfähig, recheneffizient und schnell sind“, beschreibt Steingrimsson und Blüml ergänzt: „Jede Architektur hat ihre Stärken und Schwächen, die Transformer-Modelle sind nicht das Patentrezept für alle Probleme. Es ist relevant, dass man die Architektur, aber auch die Problemdarstellung an das Problem anpasst.“

Den Wissenschaftlern ist zudem die Umweltfreundlichkeit einer KI wichtig. Nicht immer seien riesige Rechenzentren und große, verschwenderische neuronale Netze notwendig. Feature Engineering, die Aufarbeitung der Daten für die Verarbeitung, könne hierbei förderlich sein. Zudem helfe es den Menschen, eine KI-Architektur besser zu verstehen. Die Wissenschaftler begeistert die offizielle Anerkennung ihres Fachpapiers: „Wir freuen uns darauf, unsere aktuelle Forschungsarbeit auf der ECAI offiziell vorzustellen und mit dem anwesenden Fachpublikum zu diskutieren.“