原子力顯微鏡的主要工作模式有靜態模式和動態模式兩種。在靜態模式中，懸臂從樣品表面劃過，從懸臂的偏轉可以直接得知表面的高度圖。在動態模式中，懸臂在其基頻或諧波或附近振動，而其振幅、相位和共振與探針和樣品間的作用力相關，這些參數相對外部參考的振動的改變可得出樣品的性質。
接觸模式
在靜態模式中，靜態探針偏轉用做反饋信號。因為靜態信號的測試與噪音和偏移成正比，低硬度探針用來增強外偏轉信號。然而，因為探針非常接近于樣品的表面，吸引力非常強導致探針切入樣品表面。因此靜態原子力顯微鏡幾乎都用在總使用力為排斥力的情況。結果，這種技術經常被叫做“接觸模式”。在接觸模式中，掃描過程時保持探針偏轉不變來使其探針和樣品表面的作用力保持恒定。
非接觸模式
在這種模式下，懸臂上的探針并不接觸樣品表面，而是以比其共振頻率略高的頻率振動，振幅通常小于幾納米。范德華力在探針距離表面樣品1~3納米時最強，它與其他在表面上的長程力會降低懸臂的振動頻率。通過調整探針與樣品間的平均距離，頻率的降低與反饋回路一起保持不變的振動頻率或振幅。測量(x,y)每個數據點上的探針與樣品間的距離即可讓掃描軟件構建出樣品表面的形貌。
在接觸模式下掃描數次通常會傷害樣品和探針，但非接觸模式則不會，這個特點使得非接觸模式通常用來測試柔軟的樣品，如生物組織和有機薄膜；而對于堅硬樣品，兩個模式得到的圖像幾乎一樣。然而，如果在堅硬樣品上裹有一層薄膜或吸附有流體，兩者的成像則差別很大。接觸模式下探針會穿過液體層從而成像其下的表面，非接觸模式下則探針只在吸附的液體層上振動，成像信息是液體和下表面之和。
動態模式下的成像包括頻率調制和更廣泛使用的振幅調制。頻率調制中，振動頻率的變化提供探針和樣品間距的信息。頻率可以被非常靈敏地測量，因此頻率調制使用非常堅硬的懸臂，因其在非常靠近表面時仍然保持很穩定；因此這種技術是第一種在超高真空條件下獲得原子級分辨率的原子力顯微鏡技術。振幅調制中，懸臂振幅和相位的變化提供了圖像的反饋信號，而且相位的變化可用來檢測表面的不同材料。 振幅調制可用在非接觸模式和間歇接觸領情況。在動態接觸模式中，懸臂是振動的，以至懸臂振動懸臂探針和樣品表面的間距是調制的。振幅調制也用于非接觸模式中，用來在超高真空條件下使用非常堅硬的懸臂和很小的振幅來得到原子級分辨率。
輕敲模式
通常情況下，絕大部分樣品表面都有一層彎曲液面，為此非接觸模式下使探針足夠靠近樣品表面從而可以測試短程力，但是此時探針又容易粘貼到樣品表面，這是經常發生的大問題；動態模式就是為了避免此問題而發明的，又叫做間歇接觸模式（intermittent contact）、輕敲模式（tapping mode）或AC模式（AC Mode）。在輕敲模式中，懸臂通過類似于非接觸下的裝載在探針上的微小的壓電元件做來上下振動，頻率在其共振頻率附近，然而振幅則遠大于10納米，大概在100~200納米間。當探針越靠近樣品表面時，探針和樣品表面間的范德華力、偶極偶極作用和靜電力等作用力會導致振幅越來越小。電子自動伺服機通過壓電制動器來控制懸臂和探針間的距離，當懸臂掃描樣品表面時，伺服機會調整探針和樣品間距來保持懸臂的預設的振幅，而成像相互作用力則得到原子力顯微鏡輕敲模式圖像。輕敲模式減少了接觸模式中對樣品和探針和損傷，它是如此的溫和以致于可以成像固定的磷脂雙分子層和吸附的單個高分子鏈。比如液相的0.4納米厚的合成聚合物電解質，在合適的掃描條件下，單分子實驗可以在幾小時內保持穩定。