Framework:TensorFlow Lite 1.15.0 (Windows)
Model:Converted from TensorFlow Keras mode (h5)
Code:https://github.com/tylpk1216/tiny-yolov2-tflite
在找資料的過程,依稀有看到 YOLO 類演算法對美術作品的辨識度不錯,隨便找了一張圖片來測試,結果居然是下圖,難怪常看到有些圖案可以騙過 AI 的文章。
2020/04/22 更新
原本的 code 使用的是 anchor box 裡面的 confidence score,並未乘上 classes 的 confidence score,調整程式碼後,一個物件都辨識不出來了(Threshold 0.6),不過我想欺騙 AI 的原理應該是一致的,就是想辦法把訓練好 model 學習到的特徵集表現出來就能騙過 AI ?
將右上角的卡通狗辨識成泰迪熊。
調整左上角物品的大小,卡通狗就不是泰迪熊了。
將原本辨識出來的狗,放大到整個輸入大小,模型就失效了。
沒有留言:
張貼留言