CNTKは、音声認識の高速化を目的に開発されたツールキット。それまで社内で使用していた音声認識ツールが低速だったため、研究者がボランティアで開発を行なった。
その結果、CNTKは音声認識や画像認識などのディープラーニング・モデルの作成において、これまで知られていた主要なディープラーニング・ツールキット（Theano、TensorFlow、Torch 7、Caffe）を上回るパフォーマンスを実現している。なお、ディープラーニングの分野では、モデルによっては処理に数週間もかかる場合があるため、処理の高速さは重要といえる。
このほか、GPUコンピューティングの利用によって、高いスケーラビリティを可能にしている。
当初、CNTKは学術目的に限り、Codeplexで限定的に公開されていたが、より多くのディープラーニングに携わる研究者や開発者への還元として、オープンソースライセンスが採用された。