Makine öğrenmesi tabanlı twıtter sosyal bot tespit sistemlerinin performanslarının değerlendirilmesi

Abstract

Twitter gibi sosyal medya platformları insanların rahat bir şekilde iletişim kurabilmesi için oldukça etkili mecralardır. Bu platformlar hayatı kolaylaştırmak adına birçok avantaj sağlamasına rağmen, insanların kandırılması, yanlış bilgi yayılarak insanların yanlış yönlendirilmesi, manipüle edilmesi ve sözlü taciz gibi birçok soruna da neden olmaktadır.. Özellikle sosyal botlar, bahsedilen zararlı içeriklerin hızlı bir şekilde yayılması ve daha görünür hale gelebilmesi adına sürekli olarak içerek paylaşarak bu aktivitelerin gerçekleştirilmesini daha kolay bir hale getirmektedir. Bu durumu engelleyebilmek adına sosyal bot tespit sistemleri geliştirilmiştir. Buna rağmen, geliştirilen sistemlerin performansları, veri setlerinin sınırlı sayıda ve türde bot hesap bulundurmasından dolayı tam doğru bir şekilde değerlendirilememektedir. Bundan dolayı, bu tezde yapılan çalışmalarda bot tespit sistemlerinin performanslarının doğru bir şekilde değerlendirilebilmesi ve sosyal bot tespiti probleminin çözülüp çözülemediği araştırılmaktadır. Yapılan deneyler ile, 4 farklı bot tespit sisteminin performansları farklı deney düzenekleri üzerinde karşılaştırılarak en yüksek performansa sahip model bulunmaya çalışılmıştır. Kullanılan modellerin orijinal çalışmalarında raporlanan skorların çok yüksek olduğu görülmesine rağmen, modeller farklı test setlerinde düşük performanslar göstermişlerdir. Buna rağmen, performansı en yüksek olan modelin Botometer olduğu anlaşıldığından, Botometer'ın performansının daha detaylı incelenmesi gereksinimi ortaya çıkmıştır. Farklı bir bakış açısıyla deneyler gerçekleştirilerek Botometer'ın performansı 5 farklı bot senaryosu kullanılarak değerlendirilmiştir. Bu deneyler sonucunda, Botometer'ın yalnızca 1 senaryo dışında tüm senaryolarda kötü performans sergilediği görüldüğünden, sosyal bot tespiti probleminin hala araştırılmaya açık bir problem olduğunu anlaşılmaktadır.

Social media platforms such as Twitter, provide an incredibly effective way to communicate with people. While these platforms have many benefits, they can also be used for deceiving people, spreading misinformation, manipulation and verbal harassment. Social bots are usually employed for these kind of activities to artificially increase the amount of a particular post. To mitigate the effects of social bots, many bot detection systems are developed. However, the evaluation of these methods are challenging due to lack limited available datasets and the variety of bots people might develop. Therefore, in this thesis, it has been investigated whether the performance of bot detection systems can be accurately evaluated and the social bot detection problem is solved. The experiments carried out, the performances of 4 different bot detection systems are compared on different experimental setups to find which model has the highest performance. Although it was observed that the scores in the original studies where the models were very high, the models showed poor performance in different test sets. However, since it is understood that the model with the highest performance is the Botometer, a more detailed examination of the performance of the Botometer should be done. Experiments were carried out with a different perspective and the performance of the Botometer is evaluated using 5 different bot scenarios. As a result of these experiments, Botometer shows low performance in all scenarios except one and the problem of social bot detection is still an open problem to investigate.