半臉寓意各種思想、行為都只能代表某人的一部分。我們所有的好壞與面貌,都有成長的機會。

研究生雙週記

論文進展與紀錄 (11) – 處於焦慮狀態下怎麼辦

隨著時間流逝,每天都在練習面對焦慮,而就算自己沒說,身體總是老實的,會給出正處在焦慮底下訊息,像是第十幾次模型訓練仍然出問題的那個晚上驚醒三次,或是容易小感冒。

但越是處在焦慮狀態,越要提醒自己「不要慌」。就好比騎車回家時,遇到下雨還困在大量車陣中一樣,不要搶快,不要爭道,不要因為著急而加速,目的是回到家,不是快速到家,安穩地前進每一公尺,才能平安達到目的。

因此在焦慮和趕時間的狀態下,最好的辦法就是,做好現在能做的每件事,並關注自己前進多少,而不是距離終點還差多少。

論文整體進展

持續做實驗,找出模型優化的方法

4/15開始一整週都在處理模型overfitting的問題。問題是來自原本資料集的標籤有5個類別,以0,1代表低和高,為了直接利用模型做分類,把標籤從[0,0,0,0,1]的形式轉換成0~31的類別,發現這反而形成不平衡資料,有些類別的資料特別少,甚至沒有,所以繞了一圈改回原本的標籤形式,同時分別對五個類別做二元分類,並且在最後輸出結果結合五個分類器,讓輸出直接獲得五個類別的結果。(參考做法:Deep learning based fusion strategies for personality prediction)

雖然這次還沒有具體的進度產生,但收穫如下:

  1. 理解一直搞不懂的語詞negative log likelihood objective就是pytorch中的NLLLoss(),而且NLLLoss()可以說通常包含在CrossEntropyLoss()當中。
  2. 認識至少四種損失函數,NLLLoss(), CrossEntropyLoss(), BCEWithLogitsLoss(), Focal_loss()。而Focal_loss()通常用來處理不平衡資料,可以給予數量較少的類別較高的權重來提升重要性。
  3. 利用BertConfig調整pre-train model的參數配置。
  4. 按照In context learning論文作者的說明做出了 In context的sample
loss function; math; pre-train model

Image by Mario Aranda from Pixabay

向助教詢問手邊問題

課堂上有一位對deep learning技術有相當廣泛研究的助教,雖然才碩一,卻有相當豐富的相關知識,在課堂上協助老師分享許多pytorch和Tensorflow的應用。他本應該只是協助課堂相關問題,但因為他相當豐富的知識,因此我向他詢問了目前手上模型訓練的問題。

原本也有會被拒絕的心理準備,但不到10分鐘,助教就給出了相當具體的建議,對於手上任務帶來很大的幫助。即使被拒絕,也是一次問題盤點的機會,幫助自己釐清下一步,並不會有損失。而助教的回覆也某種程度上打開了對模型處理的角度和思維,幫助我跳脫現在的問題框架。

收穫與感想

怎樣算是用盡全力

前面詢問助教問題的過程讓我想起一則故事。一位孩子在院子裡搬石頭,父親在旁給予鼓勵,並對孩子說:「只要你全力以赴,一定搬的起來!」但孩子努力了許久,還是沒有搬動石頭,並告訴父親他搬不動,父親回覆:「你沒有用盡全力。」孩子感到困惑,父親隨後告訴他:「因為我在你旁邊,你卻沒有尋求幫助!」

當我們努力地要處理眼前的問題時,似乎很容易陷入「得由自己處理」這樣的困境,而讓自己忽略,大多數事情最一開始的目的就是要「完成」。用盡全力讓我們直覺地以為就是要讓自己的體力、精力、專注力等能力發揮到極致,所以把重心都放在自己身上,卻忽略了如果把這些能力看作是資源,有意願並有能力協助的人,也正是一種資源。

因此我想,當感到寸步難行的時候,不只是問自己是不是已經用盡了全力,而是還有哪些「力」沒有想到,或許這能幫助自己看見相當不一樣的可能性和做法。

幫助,資源

Image by Mohamed Hassan from Pixabay

面對焦慮的小技巧

開頭提到現在處於焦慮的狀態,這段時間大量運用《強大內心的自我對話習慣》書中的其中一個技巧:用自己的名字和自己對話

這個方法有效的原因是,光是以第三人稱和自己對話,就能在心裡創造一個客觀的距離,讓自己像是一個旁觀者看著現在的情況一樣,快速地把自己與負面情緒拉開距離,並且有能力給予處在負面狀態的那個人(自己)建議。

「XXX(自己的名字),你可以做到的,焦慮只是一個過程,到極限就休息,狀態差做出來的成果也差,把自己調整完畢再繼續前進才不會本末倒置。」雖然看起來有點矯情,但畢竟是在心裡說給那個人(自己)聽的,也可以根據那個人(自己的個性做語氣上的調整。因為我喜歡《踏實感的練習》提到的「接納」這個原則,利用這樣的說法可以讓自己接受現在不論是狀態或任務都不盡理想,但也同時知道這不會是最糟糕的。

一旦創造了這樣的距離,也就有餘裕提醒自己,「比賽還沒結束」、「多做深呼吸」、「會越來越好」或者運用《姿勢決定你是誰》的身體語言技巧,起身動一動,透過調整身體姿勢,多做伸展張開身體,能幫助帶來信心。

寫論文的過程還要寫部落格,的確相當煩躁,不過透過部落格記錄下過去的閱讀內容,以及如何在焦慮狀態下使用這些技巧,也讓自己對這些技巧更加熟悉與深刻,回頭來看其實幫助了論文的進展。

或許,焦慮有時候只是想到「還沒發生的事情中那個比較糟的可能性」,但其實一切都沒那麼糟。

Verified by MonsterInsights