Ursprünglich veröffentlicht von Vectors of Mind.

Brian Kulis (#2) anhören

Brian Kulis ist Professor für maschinelles Lernen an der Boston University (und war früher mein Betreuer). Außerdem hat er in der Industrie in dem Eliteteam gearbeitet, das für Amazons „Aktivierungswort“ verantwortlich war. Wir sprechen über die Geschichte der KI, die Rolle der Industrie im Vergleich zur Wissenschaft in der Forschung und über KI-Sicherheit. Er hat miterlebt, wie sich sein Fachgebiet von einer kleinen Gruppe mathematischer Nerds, die daran scheiterten, Bilder von Hunden und Katzen zu klassifizieren, zur heißesten Technologie auf dem Planeten entwickelt hat (die uns möglicherweise alle umbringen wird). Als Doktorand las ich auf Astral Codex Ten Science-Fiction-Diskussionen über den Untergang durch KI und teilte sie gelegentlich mit Brian und anderen Professoren (auf Partys war ich sehr unterhaltsam). Heute werden solche Szenarien von Leuten wie Yeshua Bengio ernst genommen.

Über KI-Sicherheit hören wir meist von einer lautstarken Minderheit mit gut ausgearbeiteten Ansichten zu diesem Thema. Von Menschen, die ihre Meinung dazu zu einem ihrer Markenzeichen gemacht haben und bereit sind, in der Öffentlichkeit darüber zu streiten. Aber eben diese Menschen sind größtenteils nicht diejenigen, die vielzitierte Umfragen zu AGI und ihren Folgen beantworten. Dies ist eine wertvolle Momentaufnahme davon, wie ein solcher ML-Forscher mit Tenure darüber denkt.

Ich möchte dies jedoch nicht als einstündiges Gespräch über p(doom) verkaufen; die meiste Zeit verbringen wir mit weniger fantastischen Themen. Die Zusammenfassung des Gesprächs durch ChatGPT:

  1. Faculty of Computing and Data Science an der BU: Kulis sprach über die Gründung dieser neuen Einheit an der BU, die sich auf Informatik und Datenwissenschaft konzentriert. Diese Einheit erleichtert die interdisziplinäre Zusammenarbeit und die Anwerbung von Studierenden aus verschiedenen Bereichen.
  2. Die Entwicklung des maschinellen Lernens: Besprochen wurde die Geschichte des maschinellen Lernens, die in den 1940er-Jahren mit dem mathematischen Neuronenmodell von McCulloch und Pitts beginnt. Kulis erläuterte die Entwicklung von den frühen Modellen bis zur aktuellen Welle des Deep Learning und hob die Veränderungen der ML-Paradigmen im Laufe der Jahrzehnte hervor.
  3. Der Übergang von Expertensystemen zu aktuellen ML-Modellen: Kulis beschrieb den Übergang von Expertensystemen, die in den 1970er- und 1980er-Jahren verbreitet waren, zu den heutigen Modellen des maschinellen Lernens. Er merkte an, dass frühe Expertensysteme begrenzt und brüchig waren und sich daher nicht für Anwendungen in der realen Welt eigneten.
  4. Forschung zum maschinellen Lernen und die Industrie: Das Gespräch berührte den Wechsel von KI- und ML-Talenten zwischen Wissenschaft und Industrie. Kulis sprach über die Herausforderungen, vor denen die Wissenschaft beim Halten von KI-Fakultätsmitgliedern steht, die häufig von Positionen in der Industrie angezogen werden.
  5. Statistische KI und Kernelmethoden: Im Gespräch wurde die statistische KI erörtert, wobei ihre Rolle in der Geschichte des maschinellen Lernens betont wurde. Kulis erklärte das Konzept probabilistischer Modelle in der statistischen KI und deren Stärken beim unüberwachten Lernen.
  6. Die Rolle der Wissenschaft in der ML-Forschung: Kulis dachte über die Rolle der Wissenschaft in der gegenwärtigen Landschaft der Forschung zum maschinellen Lernen nach. Er sprach über die Herausforderungen, vor denen die Wissenschaft steht, etwa die Unfähigkeit, aufgrund begrenzter Ressourcen große Modelle zu trainieren, sowie über die Bedeutung langfristigen Denkens in der Forschung.
  7. Existenzielle Risiken der KI: Die Diskussion behandelte auch das Thema KI und existenzielle Risiken, mit Verweisen auf Debatten und Ansichten innerhalb der ML-Community, darunter diejenigen namhafter Persönlichkeiten wie Hinton und LeCun.
  8. Die Zukunft des maschinellen Lernens: Kulis äußerte seine Ansichten zu verschiedenen Aspekten des maschinellen Lernens, darunter große Sprachmodelle, verstärkendes Lernen, AGI und personalisierte Medizin. Er äußerte sich dazu, was er in diesem Fachgebiet für überschätzt beziehungsweise unterschätzt hält.