Google xuất bản báo cáo chia sẻ cách bắt các tài khoản hồ sơ và đánh giá doanh nghiệp giả mạo.
Google đã xuất bản một bài đăng trên blog chia sẻ rằng họ đã cập nhật hệ thống máy học của mình để phát hiện và xóa thêm nhiều đánh giá giả mạo, danh sách doanh nghiệp giả mạo cũng như các hình ảnh và video đóng góp gian lận.
Các hệ thống tự động và nhóm đánh giá của con người đã xóa hơn 200 triệu ảnh, 7 triệu video và chặn hoặc xóa hơn 115 triệu bài đánh giá, tăng 20% so với năm trước, 2021.
Cách Google phát hiện SPAM do người dùng đóng góp
Google đang sử dụng các mô hình máy học hoàn toàn mới để phát hiện và xóa nội dung giả mạo và lừa đảo.
Các mô hình học máy này tìm kiếm các mẫu bất thường trong nội dung do người dùng đóng góp, bao gồm cả việc gắn cờ các hình thức lạm dụng mới chưa từng thấy trước đây.
Google đã chia sẻ:
“Từ lâu, chúng tôi đã sử dụng trí thông minh của máy để giúp phát hiện các kiểu lạm dụng tiềm ẩn và chúng tôi tiếp tục phát triển công nghệ của mình.
Năm ngoái, chúng tôi đã tung ra một bản cập nhật quan trọng cho các mô hình máy học. Bản cập nhật này đã giúp chúng tôi xác định các xu hướng lạm dụng mới nhanh hơn nhiều lần so với những năm trước.
Ví dụ: hệ thống tự động của chúng tôi đã phát hiện thấy sự gia tăng đột ngột trong Business Profiles với các website kết thúc bằng .design hoặc .top – điều mà khó có thể phát hiện theo cách thủ công trên hàng triệu hồ sơ.
Nhóm phân tích của chúng tôi đã nhanh chóng xác nhận rằng các website này là giả mạo và chúng tôi có thể xóa chúng cũng như vô hiệu hóa các tài khoản liên quan một cách nhanh chóng.”
Hệ thống của Google xem xét nội dung mới trước khi nội dung đó được đăng để chặn nội dung giả mạo hoặc gian lận được gửi tới hệ thống Google Maps.
Họ cũng triển khai mô hình học máy để quét nội dung đã được xuất bản nhằm phát hiện nội dung giả mạo có thể đã lọt qua các đánh giá ban đầu.
Các hệ thống mới này chặn SPAM nhanh hơn so với năm 2021 và thu được nhiều SPAM hơn.
Google giải thích:
“Ở một số nơi, những kẻ lừa đảo bắt đầu dán số điện thoại không chính xác lên trên các bức ảnh được đóng góp, với hy vọng lừa những nạn nhân không nghi ngờ gọi cho kẻ lừa đảo thay vì gọi đến doanh nghiệp thực tế.
Để giải quyết vấn đề này, chúng tôi đã triển khai một mô hình máy học mới có thể nhận dạng các con số được phủ trên các hình ảnh được đóng góp bằng cách phân tích các chi tiết hình ảnh cụ thể và bố cục của ảnh.
Với mô hình này, chúng tôi đã phát hiện và chặn thành công phần lớn các hình ảnh lừa đảo và vi phạm chính sách này trước khi chúng được xuất bản.”
Thống kê chặn thư rác
Thông báo của Google chia sẻ rằng vào năm 2022:
- Google đã chặn hoặc xóa hơn 115 triệu bài đánh giá, nói rằng phần lớn đã bị chặn trước khi xuất bản.
- Thuật toán chống SPAM mới đã xóa hơn 200 triệu ảnh và hơn 7 triệu video vi phạm chính sách nội dung của Google.
- Đã chặn 20 triệu nỗ lực tạo hồ sơ doanh nghiệp giả mạo.
- Đã bổ sung khả năng bảo vệ nâng cao cho hơn 185.000 doanh nghiệp đang gặp phải các hoạt động đáng ngờ.
Vào tháng 1 năm 2023, Google đã gửi bình luận tới FTC (đọc bản PDF tại đây) chia sẻ rằng Google sử dụng tín hiệu để xác định tài khoản giả mạo, bên cạnh việc xem xét nội dung.
Google cũng chia sẻ rằng họ hiện đang quét hình ảnh để phát hiện nội dung phủ lên hình ảnh nhằm chuyển hướng các cuộc gọi từ doanh nghiệp sang số điện thoại của kẻ lừa đảo.
Họ kiểm tra các bot, nội dung trùng lặp, mẫu từ tương tự với các đánh giá giả mạo đã biết và cũng sử dụng một hệ thống mà họ gọi là “so khớp văn bản thông minh” giúp xác định nội dung sai lệch.
Xác thực, an toàn và đáng tin cậy
Google sử dụng cả người đánh giá tự động và con người trong nỗ lực ngăn chặn hoạt động không xác thực trên hệ sinh thái Google Maps.
Việc nắm bắt các hoạt động lừa đảo trên Google Maps là điều quan trọng đối với cả những người phụ thuộc vào đánh giá doanh nghiệp và những doanh nghiệp có businesses profile được liệt kê trong hệ thống.