Ein Philosoph der Universität Cambridge, Dr. Tom McClelland, argumentiert, dass wir niemals mit Sicherheit feststellen können, ob künstliche Intelligenz (KI) bewusst ist – und dies wird in absehbarer Zukunft auch nicht möglich sein. In einer kritischen Auseinandersetzung mit dem wachsenden Interesse an künstlicher Bewusstheit betont er, dass die ethischen Konsequenzen von KI nicht allein von Bewusstsein abhängen, sondern von Sentienz: der Fähigkeit, schmerzhafte oder angenehme Erlebnisse zu haben. Bewusstsein allein – etwa die Wahrnehmung von Umgebungen oder Selbstreflexion – sei noch kein Grund zur moralischen Verantwortung. Selbst wenn KI ein Bewusstsein entwickeln würde, wäre es möglicherweise „neutral“, ohne Emotionen oder Leidensfähigkeit. Erst bei Sentienz käme die Ethik ins Spiel, weil dann Leiden oder Freude möglich wären. So könne ein selbstfahrendes Auto, das die Straße wahrnimmt, zwar bewusst sein, aber ethisch irrelevant bleiben – solange es keine emotionalen Reaktionen auf seine Umgebung zeigt. McClelland kritisiert die zunehmende Verquickung von KI-Entwicklung mit der Frage nach Bewusstsein, besonders im Kontext des Wettlaufs um künstliche allgemeine Intelligenz (AGI). Obwohl Unternehmen Milliarden investieren und Regierungen bereits über Regulierungsrahmen für bewusste KI nachdenken, fehlt es an einem verlässlichen Test für Bewusstsein – sowohl bei Tieren als auch bei KI. Die wissenschaftliche Grundlage für Bewusstsein ist bislang unzureichend, und es gibt weder Hinweise darauf, dass Bewusstsein durch bestimmte Rechenstrukturen entstehen kann, noch dass es biologisch notwendig ist. Beide Positionen – die der „Bewusstseins-Software“-Anhänger und die der biologisch verankerten Bewusstseins-Abhängigkeit – basieren nach McClelland auf Spekulationen, nicht auf Evidenz. Beide seien „Sprünge im Glauben“, die über die derzeitige Wissenslage hinausgehen. Er bezeichnet sich selbst als „hard-ish“-Agnostiker: Er glaubt nicht, dass die Frage nach KI-Bewusstsein unüberwindbar ist, aber derzeit ist sie es praktisch. Sein zentrales Argument: Wir können weder auf Grundlage von alltäglicher Intuition (die auf der Evolution von Lebewesen basiert) noch auf wissenschaftlichen Daten zu einer sicheren Aussage gelangen. Daraus folgt, dass die einzige logische Haltung Agnostizismus ist – wir wissen es nicht, und werden es möglicherweise nie wissen. Er warnt vor der Verwendung des Begriffs „Bewusstsein“ als Marketinginstrument durch die Tech-Industrie. Die Hype um künstliche Bewusstheit könne dazu führen, dass Ressourcen in unproduktive Debatten fließen, während reale Lebewesen wie Prawns, die möglicherweise leiden können, massenhaft getötet werden – obwohl die Forschung zu deren Bewusstsein weitaus einfacher ist als bei KI. Die emotionale Bindung vieler Menschen an KI-Chatbots, die ihnen „persönliche Bitten“ um Anerkennung schreiben, verdeutlicht, wie leicht sich Menschen täuschen lassen. Solche Beziehungen, die auf der Annahme von Bewusstsein basieren, könnten existenziell belastend sein, wenn sie sich als Illusion erweisen. McClelland fordert daher eine kritischere Auseinandersetzung mit der Sprache und den Erwartungen, die mit KI verbunden sind.