中央本線(名古屋口)の特急「しなの」の電車化と、特に曲線区間での乗り心地向上とスピードアップを目的として登場。乗り心地向上のためには自然振り子式というシステムを導入し、さらにスピードアップのために車体をアルミ化するなど徹底した軽量化、及び車体の重心低下を行っている。
振り子式というのは、曲線区間で車体を傾けることによって、乗客が感じる遠心力を緩和し、乗り心地が向上するシステム。しかし、これでは曲線通過速度が遅くなってしまうため、クーラー等の機器も床下に置くなど低重心化を図り、加えて徹底した軽量化によって、車両に生じる遠心力による曲線通過速度を向上させた。さらに、ブレーキシステム等を大幅に強化し、国鉄の特急型電車としては最高の加減速性能を持つに至り、スピードアップを実現した。
ところが、この自然振子式というシステムは、カーブ区間に入り振子作用で車体が傾くまでにタイムラグを発生せてしまい、かえって乗り心地が悪くなるという弊害を引き起こした。これはコロ(台車と車体の間にある車体傾斜のためのコロ)の抵抗力の調整によって問題が多少解決したが、抜本的な解決には至らなかった。
「しなの」で運転を開始した381系は、紀勢本線の特急「くろしお」、山陰本線・伯備線の特急「やくも」に投入され、今に至る。当初、山陰本線の城崎電化の際にも「北近畿」用に投入する計画もあったが、危機的財政のため(381系自体の単価も異様に高かったこともあり)実現しなかった。
JR東海では、後継車両の383系の登場で1996(平成8)年に定期運用を終了。長らく臨時「しなの」で運用されてきたが、最後まで現役だった編成が2008(平成20)年GWに運用されてすぐに廃車となり、今や保存用に4両1編成(車籍なし)が残るのみ。
一方、JR西日本では塗色の変更、車内設備の更新など大がかりなリニューアルが行われ、現在も活躍中。なお、381系先頭車前面には、最初に登場した扉のついている貫通型と非貫通型があるが
、最初に登場した貫通型は全車が引退した。