每次訓練模型大約要花費4個多小時，通常是我的休息時間，而某次模型訓練時是在學校的實驗室裡，似乎是被環境影響，覺得休息時間也可以看點書，因此閱讀了《1分鐘終結慣性拖延，短時間完全專注：掌控專注力，人生不再拖拖拉拉》。雖然影響了一些撰寫論文的時間，但我想這是一個很有幫助的決定，幫助我提高後續撰寫論文甚至是在工作上的專注力。
論文整體進展
模型實驗過程最大感想：「別高興的太早」
這段時間的心情總是上上下下，因為每當我以為實驗可以走向最後階段的時候，就會發現新的問題，可能因為時間越來越緊繃，而急著想要趕快完成。
在上一期時，主要在處理Loss function的問題，而到了這一期，問題變成loss沒有收斂與準確率沒有上升的奇怪狀態。雖然老師在課堂上提過batch_size在設備效能允許的情況下，通常越大越好，但透過這篇文章的介紹，獲得針對batch_size進行調整的靈感，不見得batch_size越大越好，還是需要針對資料集的特性做處理。
與老師meeting的過程中被指出所使用的loss function和答案的輸出有問題，本以為需要手刻Loss function，所幸找到官方的範例，使用的BCEwithLogits損失函數可以針對multi-label calssification任務做損失的計算，這就與我原本使用的方法一樣。
而找到官方文件後，也運用他們的寫法調整了我自己的模型，讓程式碼看起來更清爽，也對從預訓練模型後面銜接的Dropout Layer做實驗，發現0.2是一個對現有模型表現能帶來最佳表現的比例。因此目前論文的進展是來到準備進入下步實驗的階段，與此同時持續撰寫論文內容。
Image by Moshe Harosh from Pixabay
收穫與感想
馬上可以應用的專注力的技巧
開頭提到的《1分鐘終結慣性拖延，短時間完全專注：掌控專注力，人生不再拖拖拉拉》這本書，我認為可以當作是一本操作說明的手冊，每個章節都是可以直接操作的技巧，而以下是幾個我實際操作後，很快就感受到成效的技巧。
關掉手機APP的提醒
這嚴格來說，不確定算不算是技巧，但我將它放在第一個介紹，因為只要一次動作，不需要不斷練習，就為能專注力能帶來非常好的幫助。我想這或許可以用蔡格尼效應來解釋。蔡格尼效應指的是，人天生就對完成事情有種驅動力，也因此對於未完成的任務會有深刻的印象，這些提醒就像是未完成的事項，讓人容易去聯想，而造成分心。
實際上，在關閉大部分的提醒之後，我覺得自己甚至在平常生活連查看手機的慾望都降低了，自己能「決定」要不要使用手機，而不是習慣性地打開手機。當然，在寫論文的過程，沒有想起要使用手機這件事情，就減少了許多次的分心。
開始任務前要下定決心
雖然乍聽之下有點奇怪，如果要寫論文就坐到書桌前並打開電腦，為什麼要「下定決心」？實際運用的過程，我認為這個技巧有幫助自己「聚焦任務」的效果。
通常我會在內心對自己這樣說：「半臉，現在要開始著手解決模型的問題，這段時間必須好好專注。」讓自己能夠意識到要開始執行任務，就像跑步競賽，在正式鳴槍前，發令員會先喊出預備口號，讓運動員專注起跑的信號。同時，這也會變成一種像是承諾的狀態，督促自己要好好去做。
Image by Sabrina Eickhoff from Pixabay
不要立刻查東西
在寫論文的過程尤其容易遇到「不斷查東西」的情況，因為從一篇論文看到不熟悉的名詞就會想馬上搞懂而去查詢，通常會不斷遇到需要查詢的知識。作者建議可以在手邊準備好便條紙與筆，一遇到需要查詢的東西，就先寫下來，等任務告一個段落再去查詢。因為寫下來後就能讓大腦先放過這件事情，而繼續專注在原本的任務上。
這對寫論文帶來的好處是，我不會因為不斷查詢知識或概念，而導致忘記原本的問題，最後連查詢的知識也都沒有記得。
雖然這段時間起伏不斷，但最終有好消息，真的令人振奮，同時也趁機回溫了閱讀的美好，並把技巧用回目前的論文上，帶來不少幫助，期待完成論文，並且繼續閱讀的日子。
1 則自動引用通知