Wer vs. Was – Manchmal<\/strong>delegieren Unternehmen die Last der Bewertung, indem sie sich f\u00fcr ein gut benanntes oder gro\u00dfes globales Unternehmen entscheiden.\nSie ziehen nicht die M\u00f6glichkeit in Betracht, dass ein kleineres, weniger bekanntes Unternehmen bessere Arbeit geleistet und die gleiche L\u00f6sung zu einem besseren wirtschaftlichen Wert angeboten h\u00e4tte. <\/li>\n<\/ol>\n\nESOMAR ermutigt Sie, diese h\u00e4ufigen Fehler nicht zu begehen und hat Kriterien oder Fragen f\u00fcr die Bewertung eines Lieferanten festgelegt.<\/p>\n\n
2. Wie kann man dem angebotenen KI-Produkt vertrauen?<\/strong><\/p>\n\nWir leben nun schon lange genug mit KI, dass die Neuheit nachgelassen hat.\nDie Risiken und Grenzen des Einsatzes von KI-L\u00f6sungen werden in einem h\u00f6heren Ma\u00dfe erkannt. <\/p>\n\n
Den Forschungsunternehmen fehlt es jedoch noch an Klarheit dar\u00fcber, wie sie ein KI-Angebot effektiv bewerten k\u00f6nnen, worauf sie achten sollten und wie sie die h\u00e4ufigsten Fehler vermeiden k\u00f6nnen.<\/p>\n\n
In dieser Hinsicht stellen die von ESOMAR hervorgehobenen Schl\u00fcsselpunkte einen soliden Weg f\u00fcr eine solche Bewertung dar.\nDer Leitfaden behandelt Aspekte wie: <\/p>\n\n
\nErkl\u00e4rbarkeit <\/li>\n\n\n\n Verwendung von Drittanbieter-Apps <\/li>\n\n\n\n Verwendung von Daten <\/li>\n\n\n\n Ethik\/Transparenz <\/li>\n\n\n\n Die Sorgfaltspflicht<\/li>\n\n\n\n Menschliche Aufsicht <\/li>\n\n\n\n GenAI-spezifische Probleme <\/li>\n<\/ul>\n\n\nWie k\u00f6nnen wir darauf vertrauen, dass die Daten gesch\u00fctzt werden?<\/li>\n<\/ol>\n\nEs gibt kein Gespr\u00e4ch \u00fcber ethische KI, ohne die Verwendung von Daten zu diskutieren.\nW\u00e4hrend die Bedeutung von Daten und die M\u00f6glichkeiten zur Bewertung der Leitplanken f\u00fcr ihre Verwendung bereits in fr\u00fcheren Abschnitten erw\u00e4hnt wurden, geht dieser Abschnitt auf einige technische Details ein. <\/p>\n\n
Es gibt spezielle Richtlinien f\u00fcr die Bewertung von Datenqualit\u00e4t, Herkunft, Souver\u00e4nit\u00e4t, Eigentum und Compliance.<\/p>\n\n
Fazit<\/strong><\/h3>\n\nKI revolutioniert den Bereich der Marktforschung.\nEs gibt viele erfolgreiche Anwendungen von GenAI, um wichtige Forschungsprozesse zu optimieren und ungew\u00f6hnliche Erkenntnisse aus Daten schneller und besser als in der Vergangenheit zu gewinnen. <\/p>\n\n
Diese Anwendungen sind jedoch mit einem gewissen Risiko verbunden.\nAls verantwortungsvolle Marktforscher m\u00fcssen wir sicherstellen, dass wir bei der Auswahl von KI-Anbietern eine angemessene Sorgfaltspflicht walten lassen. <\/p>\n\n
Checkliste f\u00fcr K\u00e4ufer von KI-Dienstleistungen<\/strong><\/h2>\n\nUm K\u00e4ufern von KI-Dienstleistungen in der Marktforschung die Arbeit zu erleichtern, habe ich eine einfache Checkliste auf der Grundlage der 20 Fragen von ESOMAR entwickelt.<\/p>\n\n
Ich hoffe, dass dieses Dokument den Bewertungsprozess erleichtern wird.\nIch habe die Checkliste in den 3 Abschnitten zusammengefasst, die ich zuvor in diesem Dokument identifiziert hatte. <\/p>\n\n
\nWie kann man einem Unternehmen vertrauen, das KI-L\u00f6sungen anbietet?<\/strong><\/li>\n<\/ol>\n\nBereich der Bewertung<\/strong><\/td>Checkliste<\/strong><\/td>Antwort (Ja \/ Nein)<\/strong><\/td><\/tr>Know-how und Erfahrung in KI f\u00fcr MR<\/strong><\/td>Haben sie erfolgreich KI-L\u00f6sungen f\u00fcr andere Kunden implementiert?<\/td> <\/td><\/tr> Haben sie eine gute Konversionsrate?<\/td> <\/td><\/tr> Sind die Nutzer ihrer KI-Dienste in erster Linie Marktforscher und Insights-Profis?<\/td> <\/td><\/tr> Haben sie ihre Modellentwicklungsprozesse wissenschaftlich \u00fcberpr\u00fcfen lassen?<\/td> <\/td><\/tr> Haben sie den gesamten Marktforschungszyklus abgebildet, um Chancen f\u00fcr KI zu identifizieren?<\/td> <\/td><\/tr> Vision und Verst\u00e4ndnis f\u00fcr Schmerzpunkte<\/strong><\/td>Haben sie eine dokumentierte KI-Vision?<\/td> <\/td><\/tr> Haben sie den gesamten Marktforschungszyklus abgebildet, um Chancen f\u00fcr KI zu identifizieren?<\/td> <\/td><\/tr> Haben sie die Probleme, die sie mit KI l\u00f6sen wollen, klar identifiziert?<\/td> <\/td><\/tr> Haben sie sich Optimierungsziele gesetzt?<\/td> <\/td><\/tr> Haben sie ein Verst\u00e4ndnis f\u00fcr neue Trends in der Marktforschung?<\/td> <\/td><\/tr> Offenheit<\/strong><\/td>Werden sie Profile ihres Teams, das an der Entwicklung von KI-Produkten beteiligt ist, ver\u00f6ffentlichen?<\/td> <\/td><\/tr> Teilen sie mit, was bei ihnen nicht funktioniert hat?<\/td> <\/td><\/tr> Haben sie in den letzten 3 Monaten gr\u00f6\u00dfere Sicherheitsverletzungen oder andere kritische Vorf\u00e4lle gemeldet?<\/td> <\/td><\/tr><\/tbody><\/table><\/figure>\n\n\nWie kann man dem angebotenen KI-Produkt vertrauen?<\/strong><\/li>\n<\/ol>\n\nBereich der Bewertung<\/strong><\/td>Checkliste<\/strong><\/td>Antwort (Ja \/ Nein)<\/strong><\/td><\/tr>Erkl\u00e4rbarkeit<\/strong><\/td>Erw\u00e4hnen sie proaktiv die Namen von Tools, Modellen und Verzeichnissen, die sie verwendet haben?<\/td> <\/td><\/tr> Kann eine nicht technische Person in Ihrem Team verstehen, wie sie die KI-L\u00f6sung entwickelt hat?<\/td> <\/td><\/tr> K\u00f6nnen Sie einsch\u00e4tzen, inwieweit die Leistung dieser Anwendungen von Drittanbietern abh\u00e4ngt, und sind Sie zuversichtlich, dass die wichtigsten Funktionen kontinuierlich verf\u00fcgbar sind?<\/td> <\/td><\/tr> Verwendung von Drittanbieter-Apps<\/strong><\/td>Sagen sie Ihnen, dass sie Anwendungen von Drittanbietern verwendet haben?<\/td> <\/td><\/tr> Gibt es Unternehmensvereinbarungen mit solchen Drittanbietern, die Bereiche wie Datensicherheit, Datennutzung und Identifizierung von Risiken (insbesondere in Bezug auf den Datenschutz) abdecken?<\/td> <\/td><\/tr> Haben Sie die Ausgabe des Modells mit Originaldaten \u00fcberpr\u00fcft und Ihren eigenen gesunden Menschenverstand eingesetzt, um Halluzinationen zu erkennen (GenAI, die Daten\/Fakten erzeugt, die nicht existieren)? <\/td> <\/td><\/tr> Wenn sie Anwendungen und Modelle von Drittanbietern verwenden, haben sie dann \u00fcber die Erstellung eigener Modelle gesprochen?<\/td> <\/td><\/tr> Verwendung von Daten<\/strong><\/td>Werden die f\u00fcr die Modellierung verwendeten Daten anonymisiert?<\/td> <\/td><\/tr> Wenn sie gefragt werden, teilen sie mit, was nicht funktioniert hat?<\/td> <\/td><\/tr> Haben sie gr\u00f6\u00dfere Sicherheitsverletzungen oder andere kritische Vorf\u00e4lle mitgeteilt?<\/td> <\/td><\/tr> Ethik\/Transparenz<\/strong><\/td>Glauben Sie, dass Sie die M\u00f6glichkeit haben, der Verwendung Ihrer Daten f\u00fcr das Training der Modelle zuzustimmen oder nicht?\n(Dies ist nicht relevant, wenn sie Modelle speziell f\u00fcr Ihre Verwendung trainieren, z.B. f\u00fcr Ihre Branche oder f\u00fcr die Berichterstattung gem\u00e4\u00df Ihrer Taxonomie) <\/td> <\/td><\/tr> <\/td> Haben sie nachgewiesen, wie sie ggf. PII-Daten maskieren?<\/td> <\/td><\/tr> <\/td> Glauben Sie, dass sie bereit sind, potenzielle Risiken und Gef\u00e4hrdungen zu kommunizieren?<\/td> <\/td><\/tr> <\/td> Kommen sie der Aufforderung nach, notwendige Informationen und Unterlagen weiterzugeben?<\/td> <\/td><\/tr> Sorgfaltspflicht<\/strong><\/td>Haben sie Ihnen ihre Datenschutzbestimmungen mitgeteilt?<\/td> <\/td><\/tr> Verf\u00fcgen sie \u00fcber ein KI-Governance-Dokument?<\/td> <\/td><\/tr> Stehen diese Informationen allen Mitarbeitern zur Verf\u00fcgung und werden sie auch auf der Website ver\u00f6ffentlicht?<\/td> <\/td><\/tr> Menschliche Aufsicht<\/strong><\/td>Haben Sie den Eindruck, dass sie haupts\u00e4chlich un\u00fcberwachtes Lernen verwendet haben?<\/td> <\/td><\/tr> Gibt es Verfahren f\u00fcr die \u00dcberpr\u00fcfung und Validierung durch Menschen w\u00e4hrend des Modellentwicklungsprozesses?<\/td> <\/td><\/tr> Hat man Sie eingeladen, an dem iterativen Modellentwicklungsprozess teilzunehmen, so dass Sie die Modellergebnisse \u00fcberpr\u00fcfen k\u00f6nnen?<\/td> <\/td><\/tr> Verf\u00fcgen sie \u00fcber unabh\u00e4ngige \u00dcberpr\u00fcfungen der Modellergebnisse?<\/td> <\/td><\/tr> Verwenden sie Menschen f\u00fcr die Datenbeschriftung?<\/td> <\/td><\/tr> GenAI-spezifische Probleme<\/strong><\/td>Hat man Sie \u00fcber die Verwendung synthetischer Daten beim Modelltraining informiert?<\/td> <\/td><\/tr> Haben Sie die Ausgabe des Modells anhand von Originaldaten und unter Verwendung Ihrer eigenen Logik des gesunden Menschenverstands \u00fcberpr\u00fcft, um Halluzinationen zu erkennen (GenAI, die Daten\/Fakten erzeugt, die nicht existieren)? <\/td> <\/td><\/tr> Haben Sie das Gef\u00fchl, dass der Anbieter Fragen im Zusammenhang mit GenAI ernst nimmt?<\/td> <\/td><\/tr> Wenn sie gefragt werden, teilen sie mit, was nicht funktioniert hat?<\/td> <\/td><\/tr><\/tbody><\/table><\/figure>\n\n\nWie k\u00f6nnen wir darauf vertrauen, dass die Daten gesch\u00fctzt werden?<\/b><\/li>\n<\/ol>\n\nBereich der Bewertung<\/strong><\/td>Checkliste<\/strong><\/td>Antwort (Ja \/ Nein)<\/strong><\/td><\/tr>Datenqualit\u00e4t<\/strong><\/td>Haben Sie beim Training des Modells Daten entdeckt, die Sie f\u00fcr verzerrt oder unvollst\u00e4ndig halten (z.B. Daten von gef\u00e4lschten oder irrelevanten Bewertungsseiten)?<\/td> <\/td><\/tr> K\u00f6nnen Sie verhindern, dass der Anbieter Ihre Daten ganz oder teilweise f\u00fcr das Modelltraining verwendet? <\/td> <\/td><\/tr> Glauben Sie, dass der Anbieter synthetische Daten ohne Einschr\u00e4nkungen oder \u00dcberpr\u00fcfung verwendet hat?<\/td> <\/td><\/tr> Datenabfolge<\/strong><\/td>Sind Sie sicher, dass sie ausreichende Kontrollen eingerichtet haben, um sicherzustellen, dass sie das Recht haben, die Daten zu verwenden?<\/td> <\/td><\/tr> Wurde der Anbieter sogar wegen eines Versto\u00dfes gegen die lokalen Datenschutzgesetze bestraft?<\/td> <\/td><\/tr> Einhaltung der Datenschutzgesetze<\/strong><\/td>Sind Sie zuversichtlich, dass sie ausreichende Kontrollen eingerichtet haben, um sicherzustellen, dass sie das Recht haben, die Daten zu verwenden?<\/td> <\/td><\/tr> Haben Sie die M\u00f6glichkeit, den Anbieter aufzufordern, bestimmte Daten nicht f\u00fcr das Modelltraining zu verwenden?<\/td> <\/td><\/tr> Wurden Sie um Ihre Zustimmung zur Verwendung Ihrer Daten gebeten?<\/td> <\/td><\/tr> Besitz von Daten<\/strong><\/td>Ist f\u00fcr Sie immer klar, dass Sie die volle Kontrolle \u00fcber Ihre Daten und deren Verwendung haben?<\/td> <\/td><\/tr> Haben Sie die M\u00f6glichkeit, den Anbieter aufzufordern, bestimmte Daten nicht an openAI weiterzugeben (z. B. ChatGPT)?<\/td> <\/td><\/tr> Bietet der Anbieter gen\u00fcgend Flexibilit\u00e4t hinsichtlich des Ortes, an dem Ihre Daten gehostet werden (pr\u00fcfen Sie, ob er lokale Server in den von Ihnen bevorzugten M\u00e4rkten hat)?<\/td> <\/td><\/tr> Daten-Souver\u00e4nit\u00e4t<\/strong><\/td>K\u00f6nnen Sie verhindern, dass der Anbieter Ihre Daten ganz oder teilweise f\u00fcr das Modelltraining verwendet? <\/td> <\/td><\/tr> Haben Sie die M\u00f6glichkeit, die Verwendung aller oder eines Teils Ihrer Daten durch den Anbieter f\u00fcr Modellschulungszwecke zu unterbinden? <\/td> <\/td><\/tr><\/tbody><\/table>| Wenn<\/strong> Sie diese Ressource nutzen m\u00f6chten, laden Sie die kostenlose Checkliste herunter und beginnen Sie mit der Evaluierung Ihrer Anbieteroptionen.<\/figcaption><\/figure>\n\n