Apple представила новый фреймворк Trust Insights, который появится в iOS 27 и поможет приложениям выявлять пользователей, ставших жертвами социальной инженерии.

Система предназначена для борьбы с мошенничеством, когда злоумышленник убеждает человека самостоятельно выполнить нужные действия, например перевести деньги, изменить настройки аккаунта или отправить конфиденциальные данные.

Trust Insights анализирует поведение пользователя прямо на устройстве. Для этого используются шаблоны взаимодействия, время выполнения действий, контекст и базовые данные с датчиков. Если система заподозрит, что человек действует по указанию мошенника, она присвоит операции средний или высокий уровень риска.

После этого приложение сможет:

• Показать предупреждение
• Добавить задержку перед выполнением действия
• Запросить дополнительное подтверждение

Trust Insights не анализирует содержимое фотографий, сообщений или электронной почты. Вместо этого система оценивает только поведенческие сигналы, сразу удаляет исходные данные и отправляет на серверы Apple лишь итоговую оценку риска. Затем она может быть дополнительно сопоставлена с данными учетной записи Apple и признаками необычной активности.

Отключить Trust Insights можно будет в настройках.

На первом этапе Trust Insights будет работать с пятью категориями операций:

• Платежи и переводы
• Изменение данных и настроек безопасности аккаунта
• Использование дорогостоящих ресурсов, например запросов к ИИ
• Отправка сообщений, документов и форм
• Другие действия, не попадающие в перечисленные категории

Apple также попросила разработчиков сообщать, насколько Trust Insights помог предотвратить подозрительные операции, а также отмечать случаи, которые позже были подтверждены как мошенничество. Это позволит улучшать работу системы. [9to5]