吾粲起初担任乌程县小吏，乌程县县长孙河认为他非同一般。后来，孙河担任将军，可以自己选拔辖区内的地方官吏，便上表任吾粲为曲阿县县丞，后来又升任为长史，治理有声名政绩。吾粲虽说出身于寒微，却与同郡人陆逊、卜静等比肩齐名。孙权担任车骑将军时，征召吾粲为主簿，外任山音县县令，入朝担任参军校尉。
抗击曹休
黄武元年(222年)，吾粲与吕范、贺齐等人一道率领水军在洞口抗击魏国将领曹休。当时正值天刮大风，船只的缆绳都扯断，有的漂到岸边，被魏军获得，有的被风吹翻沉没，那些还存在的大船，落水未死的兵卒攀附着船舷大声呼救，船上的官兵都怕人多使船倾覆，都用戈矛刺击水中兵卒，不让他们上船。只有吾粲与黄渊让船上的人将落水者拉上船，手下人认为船只超载定会出事，吾粲说：“船只出事，我们就应一起去死!人家陷入绝境，怎能抛弃他们呢?”吾粲与黄渊救活的人一百多。战事结束后，吾粲被升任为会稽太守。
平定山越
吾粲征召隐士谢谭为功曹，谢谭推说有病不就，吾粲开导说：“应龙因为能屈能伸被认为神，凤凰因为善于鸣叫显示珍贵，为什么一定要隐身藏迹于天外，潜伏鳞甲于深渊呢?”吾粲招募起许多人马，被任命为昭义中郎将，与吕岱一起讨伐平定山越。后来入朝担任屯骑校尉、少府，又升任为太子太傅。
下狱处死
赤乌年间(238年―251年)，太子孙和与鲁王孙霸之间的二宫之争触发，朝中官员分成两派。吾粲坚持要确立嫡庶之分，要求将鲁王孙霸调出朝廷驻守夏口，将孙霸党羽杨竺遣发出外不让他留在京都建业，又多次将请况传告陆逊，陆逊当时驻守武昌，接连数次上表谏诤。由此吾粲遭到孙霸、杨竺等人的谮毁陷害，最终被关进监狱处死。
