以前、Alchemy, jpegencoder – 画面をキャプチャしてJPEGで保存で segfault labs の Alchemy jpegencoder を使ったのですが、他にも Alchemy 版エンコーダーがありました。

Speed up JPEG encoding using Alchemy
もともと Adobe Forum に投稿された JPEG エンコード・コードを最適化したと書いてあります。
デモもあるのですが、ByteArray.org の FP10 用に最適化された JPEGEncoder が最速表示されてしまいます。 😕
どうなんでしょうかねー。
条件によって変わるのでしょうか…

オリジナルコードは Adobe Forum の metalbot だそうです。

Faster JPEG Encoding with Flash Player 10
ByteArray.org の JPEGEncoder は corelib のコードを Flash Player 10 向けに最適化されたものです。
何度かのアップデートを重ね、今ではオリジナルの4倍のスピードでエンコードできるそうです。

これで、corelib や mx を使ってのエンコードは Flash Player 10 向けには使わなくてよさそうです。

さて、どのエンコーダーが本命になるのでしょう。

ActionScript 3 で Flash Player 10 向けに最適化への常套手段は Array を Vector に変更する、になるのでしょうね。
ByteArray.org にはどのような最適化を施したかも書かれているので参考になります。
オリジナルコードとdiffすると良いかもです。