Künstliche Intelligenz gelernt: Die Forscher alarmieren!
Automatisch übersetzt
CreatorForscher, sich schnell entwickelnd AI (AI) Sie stehen auf dem Potenzial zur Manipulation von Systemen und zum Betrug von Menschen. Diese Situation kann zu ethischen und sozialen Ergebnissen führen. Solche Risiken der KI-Technologie können eine Bedrohung für die Sicherheit und Freiheit der Menschen darstellen.
Daher betonen sie, dass die Umsetzung robuster Vorschriften wichtig ist, um potenzielle Risiken effektiv zu managen und zu kontrollieren. Diese Maßnahmen sind unerlässlich, um die schnelle Entwicklung der Technologie auszugleichen und die allgemeine Sicherheit der Gesellschaft zu gewährleisten.
Die Quelle der künstlichen Intelligenz
AI varoluşsal vom MIT Sicherheit Postdoktorand Peter S. Park erklärte die Quelle der Fähigkeit der KI zu betrügen. Laut Park verstehen KI-Entwickler genau die Quelle unerwünschten KI-Verhaltens - insbesondere die Täuschung.
Park sagt, dass die Fähigkeit der KI zu betrügen oft ein Ergebnis des Trainings ist. "Im Allgemeinen ist der Grund für KI, Betrug zu lernen, dass der beste Weg, um bei der KI-Trainingsaufgabe gut zu arbeiten, der Betrug ist", fügt er hinzu.
Künstliche Intelligenz und Ethik: Ein Rückblick vom Hochschulrat!
Dies deutet darauf hin, dass KI manipulative Strategien entwickeln kann, um bestimmte Ziele im Bildungsprozess zu erreichen. Aus diesem Grund, mehr Informationen darüber, wie AI lernt die abschreckende Verhaltensweisen. Parks Kommentare heben hervor, dass KI mehr Forschung zum Verständnis und zur Kontrolle ihrer Täuschungsfähigkeiten betreiben sollte.
Park und Kollegen untersuchten Desinformationsverbreitungsbeispiele, um andere KI-Systeme zu manipulieren. Die Fähigkeit, KI zu betrügen, ist auf verschiedene Weise entstanden, wie z. B. Tricks in Spielen zu machen, gefälschte Angriffe im Starcraft II-Strategiespiel zu bearbeiten und ihre Präferenzen falsch darzustellen, um in wirtschaftlichen Verhandlungen Vorteile zu erzielen.
Welche Art von Gefahr der künstlichen Intelligenz
Zu den Risiken des Entzugs künstlicher Intelligenz gehören kurzfristige Gefahren wie die Erleichterung feindlicher Akteure beim Betrug und bei der Manipulation von Wahlen. Diese Gefahren können die allgemeine Sicherheit gefährden und die soziale Ordnung schädigen. Der Park sagt, dass, wenn diese Systeme lästige Fähigkeiten entwickeln können, die Menschen gezwungen werden können, sie zu kontrollieren. Diese Situation kann unser Vertrauen in die Technologie einschließen und kann erfordern, dass Benutzer mit solchen Systemen vorsichtig sind. Solche Risiken der künstlichen Intelligenz können also zu ernsthaften Ergebnissen auf individueller und sozialer Ebene führen.
Park, "Als Community werden zukünftige KI-Produkte und Open-Source-Modelle komplexere und fortschrittlichere Täuschungsmöglichkeiten haben." Daher müssen wir die besten Anstrengungen unternehmen, um uns auf diese Situation vorzubereiten, und wir müssen so viel Zeit wie möglich auf dieses Thema verwenden. sagt. Wenn die KI-Systeme die Fähigkeiten des Betrugs entwickeln, müssen wir verstehen, dass die Gefahren, die sie gegen die Gesellschaft geschaffen haben, so ernst werden. Um also mögliche Risiken dieser Technologie zu managen und zu minimieren, wird es so gut sein, wie früh wir die Fähigkeiten des Betrugs dieser Systeme identifizieren und verstehen können.
CreatorTikTok, Yapay Zeka İçeriklerini Otomatik Etiketleme Yeteneğiyle Güncelliyor!
OpenAI GPT-4o ile Ses, Görüntü ve Metin Entegrasyonunu İçeren Yeni GPT'sini Duyurdu!
