たとえるなら
お店にたとえると、スマホアプリは「家の近くに建てた支店」、Webアプリは「本店に直接見に行く」ようなものです。支店（アプリ）は手元にあってすぐ開けますが、建てる（インストールする）手間がかかります。本店（Webアプリ）は住所（URL）さえ知っていれば、どの端末からでもすぐ入れます。
もう少しくわしく
アプリ（アプリケーション）は、特定の目的のために作られたソフトウェアの総称です。メモを取る、写真を編集する、買い物をする——目的ごとに作られたソフトはすべてアプリです。パソコンのExcelやWordも、正確にはアプリの仲間です。
IT業界では、動く場所によって呼び分けます。App StoreやGoogle Playから端末にインストールして使うものを「ネイティブアプリ」（単にアプリとも）、ブラウザで開いてそのまま使うものを「Webアプリ」と呼びます。GmailやYouTubeをブラウザで使うとき、それはWebアプリを使っていることになります。
どちらで作るかは開発の大きな分かれ道です。ネイティブアプリは通知やカメラなど端末の機能を活かしやすい一方、iPhone用とAndroid用を別々に作る負担があります。Webアプリはひとつ作ればどの端末のブラウザでも動きますが、端末機能との連携には制約があります。両方の良いとこ取りを目指す技術も生まれ続けています。
現場での使われ方
「これ、アプリじゃなくてWebでいいんじゃない？」
インストール型のアプリを作らなくても、ブラウザで使えるWebアプリで十分では？という開発方針の議論です。コストに関わる大事な分岐点です。
よくある質問
アプリとソフトウェアの違いは何ですか？
ソフトウェアはプログラム全般を指す広い言葉で、アプリはそのうち「利用者が特定の目的で使うもの」を指します。OSのような土台のソフトウェアはアプリとは呼びません。