臺灣淪入日本後，其初期抗戰思想是非常熾烈的。全民一致，夢想著恢復主權。但無援的抗戰份子，兩三年就被掃蕩消滅了。可是人心不是這麼簡單就安靜下去的，但因長時期的壓制，直接行動已不能為力，抗戰思想也分裂為三派；一為絕對派，一為超然派，一為妥協派。絕對派是以努力扶植反抗思想來代替抗戰；超然派是對政治完全絕瞭望，對新政權也不協力，只求個人的樂趣；妥協派是追求現實，而接近新政權，以謀求自身的利益。圍繞在胡太明的小小的環境裡，也有這三種色彩。
胡太明在臺灣淪日後不久，出生於鄉間的望族，父親是大夫，祖父是學者。祖父是超然派。父親是現實主義者。胡太明長大起來，就從祖父的安排，進入私墊學習四書五經。胡太明的老師是絕對派，以傳播漢學為思想的反抗。可是私墊被關閉後，胡太明也中途輟學，改入公學校（小學），更進師範學校，受到新教育。
他畢業師範學校後，做了鄉間公學校的教員。在那裡，日、臺人教員間，常有暗鬥，胡太明對兩邊都沒有偏向，繼續著他的教學生活。校裡有年輕的女教員兩人。一個是日人，名叫久子，另一個是臺人，名叫瑞娥。年輕的三人，因擔任學課的關係，常在一起的機會很多。不知不覺中，胡太明的心被瑞娥的好意所吸引，但又醉心於久子的活潑豐美；要瑞娥，既覺得心有不足，要久子，又沒有充分的勇氣。久子雖對太明也抱有好感，但因環境的支配，不能任意談戀愛。其原因，是胡太明在無意識中，存有自卑感，而久子也無意識地懷有優越感，雖有這樣的隔閡，但兩人的情感，卻一天一天的發展起來。校長知道之後，就把久子調離他校去了。另一方面，職員間，日、臺人的暗鬥，日益加劇，胡太明雖想超然不問，但又被牽入漩渦中，而覺得矛盾。不久有一位曾訓導跟校長吵了架，離職留學去了。久子走了後，他也不堪現實的矛盾，也去日本留學了。
到了日本一看，問題更不是在戀愛什麼的了。他驚駭於新文化的進步，只一心讀書。可是留學生，都在奔走於政治運動，他因沒有參加他們的活動，成為孤立的狀態。這反使他精進於學問的研究。留學中，雖跟寄宿主人的女兒要好起來，但曾受過久子戀愛失敗的教訓，只敢淡然的戀情，不敢作再進一步的發展。他畢業於物理學校，回到臺灣，馬上嚐到失業的痛苦；因留了學，反受社會的冷嘲熱諷。
有一天，他碰到舊同僚的黃，表明了心衷，決定在黃的農場裡工作了。他跟很多的工人在一起，愉快地工作起來，可是農場也遭到製糖會社的搾取政策而破產了。他再度失業，回到家裡，憂悶無聊，不能像祖父超然世外，又不合時流，不能做個御用紳士。他連連碰到祖父的死、分家問題、社會問題等的煩擾，再加上製糖會社強制施行栽培甘蔗的政策，他母親被製糖會社的社員毆打。他無法跟它抗爭，使他的煩悶更加增大，憤而走出臺灣，到了大陸。啊！大陸，這興亡五千年，變幻無常的社會，廣大無涯四百餘州的天地，他在那裡，感到更大的矛盾。他到處都沒有精神的寄託的地方，僅僅是一個不合時宜的人罷了。他在上海驚駭於乞丐群，為列強的搾取，貧富懸殊而憤概，更為野雞的眾多而愕然。赴京途中，逢一蘇州美人，他在南京謀了一教席。迂迴曲折地，她成為他的學生，再為情人，終於結婚。他跟她在幽靜的玄武湖談情，在紫金山嚐到人生的樂趣，他的太太耽溺於開放思想，奔走於政治運動、跳舞、麻將等，無一不使他煩惱。於中日關係惡化時，他不能跟友人參加抗日戰線，在猶豫中暴露了臺灣人的身份，受到間諜嫌疑而繫獄，偶然得到他學生的救助，隻身逃到上海。可是危險還是刻刻的迫近，他不得已又回到臺灣了。
他在基隆一上陸，就有特務刑事跟蹤。到過大陸的，都被認為有間諜嫌疑。他經過了很久的時間，才避免了嫌疑。在此時，發生了中日戰爭，日軍對廣東作戰時，他被強制徵去做軍屬。他目睹戰爭的殘酷，精神發生錯亂，而被送還臺灣了。他的哥哥是御用紳士，努力於皇民化運動，成為官方及警方的手腳，虐待鄉民；他雖心裡反對，但是無可如何。戰爭更趨極端，對臺灣人，不但強制經濟搾取，也開始了精神搾取。他迫不得已，進了統制機關的附屬團體去工作。在那裡，他所見所聞，都是灰色的。有一天碰見舊友佐籐，佐籐是日人，是個進步分子，於是他辭去了附屬團體的工作，去跟佐籐一起辦雜誌，針對時弊，努力暴露現實，雜誌也因物資缺乏，不能維持長久。他煩惱極了，最後企圖不協力運動，這也沒有實現的可能性。一切的人們，都被潮流捲走了。他弟弟仍因被強制勞動而夭折了。他因過度悲憤而發瘋了。
「啊！胡太明終於發瘋了！果是個有心人，又怎能不發瘋呢？」
總之，《亞細亞的孤兒》這篇，是透過他的一生，把日本統治下的臺灣，所有沉澱在清水下層的泥污渣滓，一一揭露出來了。登場的人物有教員、官吏、醫師、商人、老百姓、保正、模範青年、走狗等，不問日人、臺人、中國人的各階層都網羅在一起，不異是一篇日本殖民統治社會的反面史話。