HyperAI

Menschen Können Bei Dota 2 Gewinnen, Weil Die KI Von Blizzard Unterrichtet Wurde

vor 7 Jahren
Information
Sparanoid
特色图像
Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

Von Tommy Thompson

Senior-Forschungsexperte für KI und Spiele

YouTube @TableFlipGames

HyperAI-Einführung

In DOTA2 schlagen Menschen endlich die KI.

Heute begann der dritte Tag der K.-o.-Phase von Ti8 (The International DOTA2 Championships), dem weltweit wichtigsten DOTA2-Event. Leider ist das chinesische Team VG ausgeschieden. Zu einem Highlight wurde das anschließende OpenAI-Duell Ivor vs. Pain. Anders als beim letzten Mal, als OpenAI von Dendi besiegt wurde, verlor OpenAI Ivor dieses Mal im ersten Spiel und das menschliche Team schien wieder ein wenig Hoffnung zu schöpfen.

Aber in Wirklichkeit,OpenAIBeim Training verwenden sie in der Regel „StarCraft“ von Blizzard, das schon immer ein Klassiker in den Herzen vieler Spieler war und in seinem Status „World of Warcraft“ in nichts nachsteht.

Als Echtzeit-Strategiespiel basiert es auf Spielmechanismen wie der Zusammenarbeit mehrerer Dienste und der Makrostrategieplanung, um im selben Spiel unzählige Möglichkeiten zu generieren, was sehr hilfreich ist, um die Entscheidungsfähigkeit der KI und die Algorithmuseffizienz in unsicheren Szenarien zu trainieren. Heute ist dieses Spiel zu einem KI-Testgelände für namhafte Technologieunternehmen wie Google und Microsoft geworden.

Echtzeit-Strategiespiele: Die besten Spiele zum Trainieren der KI

Echtzeit-Strategiespiele (RTS) sind eine Art Strategiespiel. Im Gegensatz zu rundenbasierten Spielen kann diese Art von Spiel in Echtzeit gespielt werden. Normalerweise fungieren die Spieler im Spiel als Entscheidungsträger und müssen Makrooperationen wie den Einsatz von Truppen und die Formulierung von Strategien durchführen. Zu den gängigsten Echtzeitspielen zählen neben „StarCraft“ auch „Warcraft“, „Red Alert“ etc.

Diese Art von Spiel verfügt im Allgemeinen über einen Nebelmechanismus, was bedeutet, dass alle Spieler eine eingeschränkte Sicht haben und nur die Szene um sich herum sehen können. Spieler müssen Ressourcen sammeln, indem sie die Welt erkunden, um Stützpunkte zu errichten und Technologiebäume zu erstellen (z. B. Waffen aus verschiedenen Materialien synthetisieren usw.). Nur wenn es ihnen gelingt, feindliche Befestigungen zu zerstören und Feinde auszuschalten oder allen Angriffen standzuhalten, können sie gewinnen.

Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

Während des Spiels sind die sinnvolle Verteilung der Ressourcen, die Ausarbeitung von Angriffs- und Verteidigungsplänen sowie das Verständnis der Karte die Schlüsselfaktoren, die den Ausgang der Schlacht beeinflussen.

Dies erfordert von den Spielern nicht nur, während des Spiels ständig die unbekannte Welt zu erkunden, sondern auch immer den Kampfstatus im Auge zu behalten und Angriffs- und Verteidigungsstrategien zu formulieren. Darüber hinaus ist der Suchraum für diese Art von Spielen riesig und es können unzählige Möglichkeiten in einem Spiel vorhanden sein. Daher eignen sich RTS-Spiele sehr gut, um die Entscheidungsfähigkeit von KI in unsicheren Szenarien zu trainieren und die Effizienz von KI-Algorithmen zu testen.

Das Training der KI beginnt mit der Eroberung von StarCraft

Unter allen RTS-Spielen ist „StarCraft“ zweifellos die beste Wahl.

Dieses Spiel ist bekannt und hat eine große Anzahl an Spielern, die eine große Menge an Daten menschlicher Spieler liefern können, die zum Trainieren der KI erforderlich sind. Darüber hinaus ist dieses Spiel sehr komplex und kann die algorithmische Effizienz des KI-Modells effektiv testen. Daher gibt es schon seit einem sehr frühen Stadium Forscher, die hoffen, KI-Modelle mit „StarCraft“ trainieren zu können.

Da es sich bei „StarCraft“ um ein Spiel mit unvollständigen Informationen handelt, kann der 128 x 128 große Kartenbereich einen riesigen Suchraum schaffen. Derzeit beträgt der Suchraum für Go etwa 10170 und der Suchraum für StarCraft kann 101685 erreichen. Außerdem können bis zu 400 Militäreinheiten erstellt werden. Jeder Typ einer Militäreinheit verfügt über unterschiedliche Eigenschaften, die im Spiel unzählige Möglichkeiten schaffen können. Daher muss die KI mehr Algorithmen ausführen, um damit fertig zu werden.

Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

StarCraft 2017 Remastered

Darüber hinaus können Spieler aus verschiedenen Lagern im Spiel jederzeit aufeinandertreffen, was eine Reaktion der KI innerhalb von Millisekunden erfordert. Dies erfordert, dass KI die Fähigkeit besitzt, sich Informationen in Echtzeit zu merken und zu analysieren, alle zufälligen Begegnungen oder erkannten Situationen integrieren zu können und Spielstrategien kontinuierlich anzupassen. Da es sich zudem um eine virtuelle Szene handelt, ist der Aufwand für Versuch und Irrtum beim Training sehr gering. Diese Faktoren machen StarCraft zu einem idealen Ort für das KI-Training.

Wie lernt KI?

ORTS:

Eine RTS-Kampfplattform, die speziell für die KI-Forschung entwickelt wurde

ORTS steht für Open Real Time Strategy, eine Echtzeit-Strategiespielplattform mit einer offenen RTS-API. Es wurde 2003 von Michael Buro, einem Informatikprofessor an der University of Alberta in Kanada, speziell für das Training von KI-Modellen für RTS-Spiele entwickelt.

Diese mit OpenGL-API ausgestattete 3D-RTS-Spieleplattform kann die meisten Echtzeit-Strategiespiele auf dem Markt imitieren und auch 3D-Grafiken verarbeiten. Die Kommunikationsprotokolle und der Quellcode von ORTS sind alle öffentlich zugänglich. Benutzer können kostenlos auf eine große Anzahl von Karten, Modellen, Militärdaten usw. zugreifen und aus der Ferne KI-Controller zum Trainieren von KI-Modellen erstellen.

Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

Die Open Real-Time Strategy Game (ORTS)-Plattform kann auf GitHub eingesehen werdenBefehl

Holen Sie sich den Link:https://github.com/benoit-dumas/OpenRTS

ORTS schafft Voraussetzungen für Entwickler, um KI-Controller in Echtzeit-Strategiespielen zu erstellen, kann jedoch nur den Betriebsmechanismus bestehender RTS-Spiele replizieren und ist immer noch nicht direkt mit nativen Spielen verbunden. Da so wenige menschliche Spieler beteiligt sind, gibt es bei ORTS die meiste Zeit nur KI-Spieler.

Im Jahr 2009 nahm die Geschichte schließlich eine Wendung zum Besseren. ORTS erzielte eine Einigung mit Blizzard und veröffentlichte beim letzten von ORTS veranstalteten RTS-KI-Wettbewerb eine API, BWAPI (die offizielle API von „StarCraft: Brood War“). Dies war zugleich die erste externe KI-API in der „StarCraft“-Reihe.

BWAPI:

Sie können KI-Charaktere direkt in „StarCraft“ erstellen

BWAPI ist ein Open Source C++-Framework, was bedeutet, dass alle Entwickler ihre eigenen KI-Modelle in „StarCraft“ trainieren können. BWAPI kann KI-Modelle mit Spieldaten menschlicher Spieler sowie Informationen wie dem aktuellen Spielstatus, verfügbaren Truppentypen und dem Status des Technologiebaums versorgen.

Um zu verhindern, dass KI-Spieler im Kampf betrügen, sieht das System vor, dass die Position, Attribute und andere Informationen des Gegners nur dann abgerufen werden können, wenn der gegnerische Spieler nicht durch Nebel blockiert ist und sich im Sichtfeld des KI-Modells befindet.

Allerdings kann KI im selben Frame mehr Aktionen ausführen als ein menschlicher Spieler. Dies kann dazu führen, dass Sie während des Spiels merkwürdiges Verhalten feststellen, beispielsweise dass Landsoldaten auf Wänden laufen oder Gebäude herumrutschen.

Obwohl BWAPI in der tatsächlichen Anwendung noch Mängel aufweist, lässt sich nicht leugnen, dass es die Idee des Trainings von KI-Modellen in „StarCraft“ erfolgreich umgesetzt und die Entwicklung der KI gefördert hat. Es legte auch den Grundstein für den später von der AIIDE (Artificial Intelligence and Interactive Digital Entertainment Conference) veranstalteten „StarCraft“-Wettbewerb.

AIIDE:

Mehr Menschen am KI-Wettbewerb „StarCraft“ teilnehmen lassen

Im Jahr 2010 veranstaltete die AIIDE, damals eine der weltweit größten Konferenzen zur Spiele-KI-Forschung, die erste „StarCraft AI Championship“, an der ausschließlich KI teilnahm. Der Wettbewerb ist in insgesamt 4 Spiele mit jeweils unterschiedlichem Schwerpunkt unterteilt, die dazu dienen, die Leistungsfähigkeit von KI-Modellen in verschiedenen realen Kampfszenarien zu demonstrieren.

  • Das erste und zweite Spiel konzentrieren sich auf die Verwaltung militärischer Einheiten in komplexem Gelände.

  • Das dritte Spiel verwendet einen nebelfreien Zonenmodus mit voller Sicht, aber hochrangige Waffen sind verboten;

  • Das vierte Spiel ist eine normale Konfrontation und Sie können vorgeschobene Soldaten auch bei Nebel einsetzen.

Der Wettbewerb war ein großer Erfolg. Insgesamt nahmen 26 KI-Teams teil, von denen 17 den gesamten Wettbewerb absolvierten. Die erste Meisterschaft gewann der Zerg-KI-Spieler Overmind, der von einem Forschungsteam der University of California entwickelt wurde.

Erwähnenswert ist, dass der Entwickler von Overmind, der derzeitige Google DeepMind-Forscher Oriol Vinyals, einst spanischer „StarCraft“-Champion war. Obwohl Overmind den AIIDE-Wettbewerb gewann, hatte es Schwierigkeiten, den menschlichen Spieler Oriol Vinyals zu besiegen.

Um die Fairness des Wettbewerbs zu gewährleisten, verlangte AIIDE im Jahr 2011 mit zunehmender Teilnehmerzahl von den KI-Spielern, ihren Quellcode öffentlich zu machen. Zudem wurden alle Wettbewerbe auf Servern durchgeführt, die auf der C/S-Architektur (Client/Server-Modell) basieren.

Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

Beim zweiten „StarCraft AI Competition“ dieses Jahres gewann SkyNet aus Großbritannien die Meisterschaft mit einer Strategie, die auf frühe Verteidigung und regelmäßige Angriffe ausgerichtet war. Dieser KI-Player wurde allein vom britischen Ingenieur Andrew Smith entwickelt und beweist die Machbarkeit von KI-Algorithmen bei der Strategieformulierung.

Im Jahr 2012 gelang es im Rahmen des AIIDE-Wettbewerbs, Spielaufzeichnungen dauerhaft zu speichern, sodass die KI durch das Ansehen früherer Spiele lernen konnte. Heute veranstaltet AIIDE weiterhin den „StarCraft“-KI-Wettbewerb in der Hoffnung, mehr Menschen zur Teilnahme an der Entwicklung von „StarCraft“-KI-Modellen zu ermutigen und so die Entwicklung der KI voranzutreiben.

Als AIIDE 2011 seinen zweiten Wettbewerb veranstaltete, begann in aller Stille auch ein weiterer „StarCraft“-KI-Wettbewerb speziell für Amateur-KI-Spieler wie College-Studenten.

SSCAIT:

Entwickelt für Studenten und Amateurspieler

SSCAIT (StarCraft Student AI Competition) wurde 2011 von Michal Certicky, einem slowakischen Doktor der Philosophie, gegründet. Es richtet sich hauptsächlich an College-Studenten, Doktoranden und alle Spieler in der Gesellschaft, die am StarCraft AI-Wettbewerb interessiert sind.

Über BWAPI kann fast jeder seinen eigenen interstellaren KI-Controller entwickeln.

SSCAIT ist offener als AIIDE, das Wettkampfformat hat sich ebenfalls geändert und Übungsspiele und der Hauptwettkampf können live auf Twitch verfolgt werden. Das Spiel beinhaltet 1-gegen-1-Nahkämpfe. Wenn die Gebäude einer Seite vollständig zerstört werden oder das Programm abstürzt und keine Entscheidung treffen kann, wird das Team eliminiert.

Auch wenn sich die KI im „StarCraft“-Wettbewerb weiter verbessert und in vielen anderen Spielen bessere Leistungen als der Mensch erbringt, können Menschen die KI im „StarCraft“-Kampf zwischen Mensch und Maschine derzeit noch schlagen.

Im Kampf Mensch-Maschine hat der Mensch immer noch einen kleinen Vorteil

AIIDE veranstaltete einmal ein Match zwischen KI- und menschlichen Spielern, bei dem die drei besten Spieler des „StarCraft“-KI-Wettbewerbs 2015 gegen den russischen „StarCraft“-Profispieler Djem5 antraten, doch keiner von beiden gewann.

Im Jahr 2017 veranstaltete die Sejong-Universität in Seoul, Südkorea, außerdem einen Mensch-Maschine-Wettbewerb, bei dem vier KI-Spieler gegen Song Byung Gu antraten, einen koreanischen „StarCraft“-Profispieler und einen der stärksten Profispieler der Welt.

Die vier KI-Spieler waren MJ Bot, ZZZKBot und tscmoo von der Sejong-Universität und CherryPi vom Facebook AI Lab. Alle vier KI-Spieler wurden innerhalb von 27 Minuten besiegt (der schnellste brauchte viereinhalb Minuten).

Daher richtete das DeepMind-Team im Google AI Lab nach der Entwicklung von Alpha Go sein Augenmerk auf „StarCraft“, in der Hoffnung, die Menschen erneut zu besiegen.

Google DeepMind startet offizielle StarCraft 2-API

Im August 2017 gab DeepMind offiziell seine Partnerschaft mit Blizzard bekannt, um gemeinsam die offizielle KI-API für „StarCraft II“ – SC2LE (übersetzt: StarCraft 2 AI Research Environment) – zu starten.

Dies ist ein Toolset, das für Entwickler zum Studium der KI entwickelt wurde, aber es funktioniert nur mit „StarCraft II“. Während viele BWAPI-Funktionen beibehalten wurden, wurden einige neue Funktionen hinzugefügt:

  • Sie können die Programmiersprache Python verwenden, um KI-Modelle im Spiel zu erstellen.

  • Sie können sich Spielwiederholungen ansehen;

  • Der Spielfortschritt kann beschleunigt werden (sehr nützlich zum Trainieren der KI);

  • Es können benutzerdefinierte Karten erstellt werden.

  • Zum Funktionstest von KI-Modellen wurden sieben von DeepMind entwickelte Minispiele hinzugefügt;

  • Dem KI-Modell können mehr Spieldaten menschlicher Spieler bereitgestellt werden.

Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

SC2LE Erfasste Spielfunktionen

SC2LE ist in zwei verschiedene Sätze unterteilt, einer ähnelt BWAPI, der unter einem bestimmten Rahmen auf bestimmte Informationen zugreifen kann. Die andere ist speziell auf KI-Algorithmen wie maschinelles Lernen vorbereitet, die die im Spiel gewonnenen Informationen analysieren und dem Algorithmus den Zugriff auf diese Daten erleichtern können.

Obwohl SC2LE mehr Menschen die Teilnahme an der Erstellung von KI-Spielmodellen ermöglichen kann, ist es für die KI in Echtzeit-Strategiespielen wie „StarCraft“ immer noch schwierig, Menschen zu besiegen. Mit der Beteiligung international renommierter Technologieunternehmen wie Google, Microsoft und Facebook könnte sich dies jedoch ändern.

Im Juni dieses Jahres besiegte OpenAI, eine von Elon Musk und vielen anderen Tycoons aus dem Silicon Valley mitgegründete gemeinnützige KI-Organisation, professionelle menschliche Spieler im Multiplayer-Echtzeit-Kampfspiel „DOTA 2“ und im August semiprofessionelle Spieler.

„DOTA“ wurde auf Basis der Spiel-Engine von „World of Warcraft III“ entwickelt. Wie „StarCraft“ ist auch „World of Warcraft“ ein von Blizzard entwickeltes RTS-Spiel. Obwohl „DOTA 2“ von dieser Engine getrennt wurde, bleiben einige Spielmechanismen erhalten.

Obwohl die Spielmechanik von „World of Warcraft“ komplexer und die Kartenreichweite größer ist als bei „DOTA 2“, beweist der Sieg der KI in „DOTA 2“, dass die KI in Echtzeit-Strategiespielen einen weiteren Schritt nach vorne gemacht hat. Wenn in Zukunft immer mehr große Technologieunternehmen mitmischen, könnte die KI neue Spielmechanismen schaffen und bestehende Wettbewerbsspiele in Kämpfe zwischen Menschen und KI verwandeln.

Menschen können bei Dota 2 gewinnen, weil die KI von Blizzard unterrichtet wurde

Kommen Sie und spielen Sie eine Runde und wiederholen Sie die heutigen Wissenspunkte