Common Sense AI ist eine Organisation, die sich der Weiterentwicklung von Systemen der künstlichen Intelligenz widmet, die alltäglichen gesunden Menschenverstand verstehen und anwenden können. Die Initiative konzentriert sich auf eine grundlegende Herausforderung auf diesem Gebiet: Maschinen zu befähigen, das implizite Wissen zu erfassen, das Menschen mühelos nutzen, wie etwa zu verstehen, dass Wasser nass ist, dass Gegenstände fallen, wenn man sie loslässt, oder dass Menschen typischerweise essen und schlafen müssen. Diese Arbeit liegt an der Schnittstelle von künstlicher Intelligenz und Kognitionswissenschaft und adressiert Einschränkungen aktueller Modelle, die trotz ihrer Kompetenz in spezialisierten Bereichen oft bei grundlegenden Denkaufgaben versagen.
Die Mission der Organisation resultiert aus der Erkenntnis, dass die meisten zeitgenössischen KI-Systeme, einschließlich großer Sprachmodelle, hervorragend in der Mustererkennung sind, aber mit der Art von intuitiver Physik und sozialem Denken kämpfen, die Menschen durch frühkindliche Erfahrung erwerben. Durch den Fokus auf gesunden Menschenverstand zielt Common Sense AI darauf ab, robustere und anpassungsfähigere Systeme zu schaffen, die sicher und effektiv in realen Umgebungen operieren können, in denen unerwartete Situationen und mehrdeutige Kontexte die Norm sind.
Forschungsansatz
Common Sense AI verfolgt eine multidisziplinäre Strategie, die Erkenntnisse aus maschinellem Lernen, kognitiver Psychologie und Linguistik kombiniert. Das Forschungsteam entwickelt Benchmarks und Bewertungsrahmen, die speziell darauf ausgelegt sind, Denken mit gesundem Menschenverstand zu testen, und geht dabei über traditionelle Metriken hinaus, die die Leistung bei engen, klar definierten Aufgaben messen. Diese Benchmarks umfassen oft Szenarien, die das Verständnis von Ursache und Wirkung, räumlichen Beziehungen und sozialen Konventionen erfordern.
Die Organisation untersucht auch, wie Wissen über gesunden Menschenverstand in bestehende KI-Architekturen integriert werden kann. Dies umfasst die Erforschung von Methoden zur Anreicherung von neuronalen Netzen mit strukturierten Wissensbasen sowie die Entwicklung von Trainingsverfahren, die Modelle dazu anregen, über kontrafaktische Situationen nachzudenken. Forscher bei Common Sense AI haben Arbeiten zu Curriculum-Learning-Ansätzen veröffentlicht, die schrittweise zunehmend komplexe Szenarien des gesunden Menschenverstands einführen und dabei Techniken ähnlich dem Curriculum-Lernen nutzen, die in anderen KI-Bereichen verwendet werden.
Schlüsselprojekte und Produkte
Eines der Flaggschiffprojekte der Organisation ist eine Denk-Engine für gesunden Menschenverstand, die in verschiedene KI-Anwendungen integriert werden kann. Diese Engine ist darauf ausgelegt, Echtzeit-Inferenzen über physische und soziale Situationen zu liefern, sodass andere Systeme fundiertere Entscheidungen treffen können. Beispielsweise könnte ein Roboter, der diese Engine nutzt, ableiten, dass eine Tasse am Rande eines Tisches wahrscheinlich herunterfällt oder dass eine Person, die einen Regenschirm hält, wahrscheinlich Regen erwartet.
Common Sense AI hat auch eine Reihe von Open-Source-Datensätzen entwickelt, die in der Forschungsgemeinschaft weit verbreitet sind. Diese Datensätze enthalten Tausende annotierter Szenarien, die verschiedene Aspekte des gesunden Menschenverstands testen, von zeitlichem Denken bis zum Verständnis emotionaler Zustände. Die Datensätze wurden in zahlreichen akademischen Arbeiten zitiert und haben die Entwicklung von Bewertungsmethoden an großen KI-Forschungseinrichtungen beeinflusst.
Kooperationen und Partnerschaften
Die Organisation unterhält aktive Kooperationen mit mehreren akademischen und industriellen Partnern. Forscher von MIT CSAIL und Stanford AI Lab haben mit Common Sense AI an gemeinsamen Projekten gearbeitet, die die theoretischen Grundlagen des gesunden Menschenverstands in Maschinen erforschen. Diese Partnerschaften haben zu mehreren begutachteten Veröffentlichungen in führenden KI-Konferenzen und -Fachzeitschriften geführt.
Common Sense AI arbeitet auch mit Industriepartnern zusammen, um ihre Forschung auf praktische Probleme anzuwenden. Eine bemerkenswerte Kooperation mit Samsung Research konzentrierte sich auf die Verbesserung der Fähigkeiten mobiler Assistenten im Bereich des gesunden Menschenverstands, damit diese die Benutzerabsicht in mehrdeutigen Situationen besser verstehen. Ein weiteres Projekt mit Amazon AI untersuchte, wie Denken mit gesundem Menschenverstand Empfehlungssysteme verbessern könnte, indem der breitere Kontext der Benutzerbedürfnisse verstanden wird.
Auswirkungen und zukünftige Richtungen
Die Arbeit von Common Sense AI hat zu einer wachsenden Anerkennung in der KI-Gemeinschaft beigetragen, dass gesunder Menschenverstand eine kritische Komponente wirklich intelligenter Systeme ist. Die Benchmarks der Organisation wurden von Forschern bei Unternehmen wie OpenAI und Google DeepMind als Teil ihrer Bewertungssuiten übernommen und tragen so zum Fortschritt in diesem Bereich bei.
In Zukunft plant Common Sense AI, seine Forschung auf Bereiche wie verkörperte Intelligenz auszuweiten, in denen gesunder Menschenverstand in physischer Interaktion mit der Welt verankert sein muss. Die Organisation untersucht auch, wie gesunder Menschenverstand die Sicherheit und Zuverlässigkeit von generativen KI-Systemen verbessern kann, insbesondere in Hochrisikoanwendungen wie Gesundheitswesen und autonomes Fahren. Ab 2024 wächst das Team aus Forschern und Ingenieuren der Organisation weiter, mit laufenden Bemühungen, seine Erkenntnisse in einsatzbereite Technologien zu übersetzen, die einer breiten Palette von KI-Anwendungen zugutekommen können.
Führung und Team
Die Organisation wurde von einer Gruppe von Forschern mit Hintergründen in Kognitionswissenschaft und KI gegründet, darunter prominente Persönlichkeiten wie Joshua Tenenbaum und Brendan Lake, die sich seit langem für einen tieferen Fokus auf menschenähnliches Lernen und Denken in der KI einsetzen. Das Team umfasst Experten in Deep Learning, Verarbeitung natürlicher Sprache und Robotik, was den interdisziplinären Charakter der Herausforderung des gesunden Menschenverstands widerspiegelt. Common Sense AI unterhält eine flache Organisationsstruktur, die schnelle Iteration und offenen Austausch von Ideen über Disziplinen hinweg fördert.