2023年3月15日、The PyTorch Foundationは、同プロジェクトが開発する機械学習フレームワークPyTorchの新バージョン2.0のリリースを発表した。

PyTorch 2.0: Our next generation release that is faster, more Pythonic and Dynamic as ever | PyTorch

PyTorch 2.0では、深層学習用ライブラリであるTransformersの高速版であるAccelerated Transformersが含まれる。Transformersはおもに自然言語処理などを得意とする深層学習モデルを実現するライブラリで、PyTorchではBetter Transformersという名前で搭載されていたが、より処理が高速になったことをふまえ、Accelerated Transformersとしてリリースに含まれることとなった。

コンパイラ（torch.compile）も新しくなり、これまでよりパフォーマンスの高いコードが生成されるようになったという。またMPS（Metal Performance Shaders）Backendにより、Apple SiliconのMacプラットフォームでGPUアクセラレーションを利用できる。このほかにもさまざまなプラットフォーム上での高速化が図られている。