BERT

GPT和BERT都是基于神经网络的自然语言处理模型，但它们有以下不同点：

1. 架构：GPT是一个生成式语言模型，它使用Transformer架构，只使用单向上下文进行预测；而BERT是一个双向的语言表示模型，也使用Transformer架构，使用双向上下文对输入文本进行编码。