WordPressのウィジェットでサイドバーに表示する手もありますけど、ここでは本文に挿入したいということで除外。
いろんな方法があるようですが、なるべく簡単・確実なものということで、検索していたら
に行きあたり、「捜していたのはこれだ！」と（笑）
２００６年の内容で、ダウンロード先の説明が現状と少し異なってますんで、その部分をメモしておきます。
２０１１年８月現在、Feed2JS をダウンロードするには、
Installation
Get the Latest Source Code now available on eduforge
の eduforge ではなく、
Installation
Get the Latest Source Code now available on Google Code
の Google Code をクリックするようになっていて、
リンク先の
http://code.google.com/p/feed2js/
のナビゲーションバーにある Downloads をクリック。
リンク先の
http://code.google.com/p/feed2js/downloads/list
の縦に並んでいる歴代バージョンのうち、一番上の最新バージョン（２０１１年８月１６日現在、feed2js-2.3.zip）を、パソコンのデスクトップなど自分が扱いやすい任意の場所にダウンロードして解凍し、
（Magpie RSSは同梱されてるので必要ないようです）
出来た同名フォルダの、その中にある feed2js というフォルダを、ＦＴＰで、サーバにまるごとＵＰ。
あとは「小粋空間」さんの記事にあるとおりに、パーミッション変更、動作テスト、設定などをして、生成されたソースを、HTMLに貼りつければＯＫです。
以下「はてなブックマークに最近登録されたエントリー／注目のエントリー一覧」のRSSから、ページタイトルだけを表示させてみましたが、どうでしょう？
※（追記：現在当サイトでは feed2js を停止しています。以下には何も表示されません）
RSS Feed（フィード）読み込み実験
これはどういう使い方ができるかというと、
HTMLに詳しくない人、苦手な人が自分のサイトで「更新情報」や「ライブ情報」などを簡単に表示させることができてしまう。
「それくらいは自分でやって」と思っている管理者には実に好都合です。
ただし、サーバの負担が増えるので表示が遅くなったり、エラーになったりします。
回避手段として jscache や 中継君 でキャッシュを読むようにするやり方があるそうですが、両方共見当たりませんね。
追加記事
はてなブックマークのように
http://b.hatena.ne.jp/はてなID/rss?of=0
http://b.hatena.ne.jp/はてなID/rss?tag=何々
でもイケるのかな？
（２０１２年３月２６日）
追加記事
RSSフィードを読み込んで、記事を自動で投稿してくれるプラグイン
WP_o_Matic
FeedWordPress
後者を使ってみたけど、ちょっとチガウなぁ、、、
（２０１２年３月２８日）