WordPressのテンプレートタグ
<?php wp_get_archives( 'type=postbypost' ); ?>
はカテゴリーを指定するパラメーター（オプション）がありません。
そのため、フロントページなどで、例えば「お知らせ」というカテゴリーの投稿のタイトルのみリストで表示したい場合であっても、そのほかの投稿のタイトルが入ってきてしまいます。
カテゴリー別の、月別リストを表示するためのプラグインに
Archives for a category WordPress plugin
というのがありますが、何年何月という項目のリストになり、投稿タイトルのリストにはなりません。
こちらのプラグイン
Smart Archives Reloaded
はどうでしょう。
設定画面では「除外するカテゴリーのID」の項目があり、複数指定できます。
実際に埋め込むタグ
<?php smart_archives( '', 'category_name=スラッグ' ); ?>
ではカテゴリーの「スラッグ」を入れるようになってるみたいです。
表示はうまくされましたが、書き出される書式（オプションあり）がうるさい感じで敬遠です。
WordPress › フォーラム » サイドバーに特定カテゴリーを除外した月別アーカイブを表示したい
の方法は、除外できるカテゴリーがどうやら１つのみのようで、カンマで区切って複数指定したら、現在使ってるテーマ（このブログのテーマではありません）では真っ白になってしまいました。
これは他のテーマではどうなのか分かりませんが、やはり敬遠です。
面倒だからもう止めようかと思っていたところ、
wp_get_archives()でカテゴリー指定ができるようにする WebLifeLogs ※（追記：このブログは削除されました）
を見つけ、試したら問題なくうまくいきました。
ちなみにIDというのは、
WordPressで記事とカテゴリのIDを調べる方法
に書かれてある風に調べます。
追加記事
もうひとつ良い方法が見つかりました。
プラグインを使わずカテゴリごとの最新記事を表示する方法【wordpress】 – ひなログ
これのほうがより簡単ですね。