Инженер Microsoft предупредил о злоупотреблениях с помощью нейросети
12 марта 2024, 07:03
Инженер Microsoft обнаружил уязвимости в генераторе изображений Copilot Designer, позволяющие создавать неприемлемый контент. Шейн Джонс предупредил Федеральную торговую комиссию США и руководство корпорации о возможностях злоупотреблений, пишет "РГ".
Нейросеть генерирует изображения насилия, употребления алкоголя несовершеннолетними и нарушения авторских прав. Она использует персонажей в любых контекстах, даже с политическими лозунгами.
Джонс выразил обеспокоенность отсутствием механизма для сообщения о вредных изображениях. Руководство Microsoft признало проблему, но не приостановило публичное использование ИИ, несмотря на многочисленные жалобы.
