TLS 握手失败是 HTTPS 连接问题中最常见的情况之一。当浏览器显示"ERR_CONNECTION_CLOSED"或"PR_CONNECT_RESET_ERROR"等错误时，很可能是 TLS 握手出现了问题。本文将深入讲解 TLS 握手失败的常见原因，以及如何使用 OpenSSL 工具进行诊断和排查。

1. TLS 握手失败概述

TLS 握手是建立安全连接的关键过程，涉及版本协商、加密套件选择、证书验证、密钥交换等多个步骤。任何一步出现问题都可能导致握手失败。

握手失败通常表现为：

  • 浏览器无法加载页面
  • 连接立即关闭
  • 证书错误警告
  • 协议不兼容错误

2. 常见的握手失败原因

2.1 证书问题

证书相关问题是握手失败的最常见原因：

  • 证书过期：服务器证书已过有效期
  • 域名不匹配：证书 CN/SAN 与访问域名不一致
  • 证书链不完整：中间证书缺失
  • 自签名证书：客户端不信任该 CA
  • 证书被吊销：CRL/OCSP 检查失败

2.2 协议版本不兼容

客户端和服务器支持的 TLS 版本不匹配：

  • 客户端只支持 TLS 1.0/1.1，服务器已禁用
  • 客户端不支持 TLS 1.3，服务器只启用 TLS 1.3
  • 使用废弃的 SSL 协议

2.3 加密套件不匹配

服务器不支持客户端提供的任何加密套件：

  • 服务器只启用了较旧的加密套件
  • 客户端请求的加密套件被服务器禁用
  • 客户端和服务器没有共同的加密套件

2.4 客户端证书问题（mTLS 场景）

在双向 TLS 认证中：

  • 客户端证书过期或无效
  • 客户端证书不在服务器信任列表中

3. 使用 OpenSSL 诊断

3.1 基本诊断命令

1
2
3
4
5

# 基础连接测试，获取证书和握手信息
openssl s_client -connect example.com:443 -servername example.com

# 加上 -verify_return_error 可以看到更详细的验证错误
openssl s_client -connect example.com:443 -verify_return_error

3.2 查看详细的握手过程

1
2
3
4
5

# 使用 -msg 可以看到握手消息的详细内容
openssl s_client -connect example.com:443 -servername example.com -msg

# 使用 -debug 可以看到更详细的调试信息
openssl s_client -connect example.com:443 -servername example.com -debug

3.3 测试特定的 TLS 版本

1
2
3
4
5
6
7
8

# 强制使用 TLS 1.0
openssl s_client -tls1 -connect example.com:443

# 强制使用 TLS 1.2
openssl s_client -tls1_2 -connect example.com:443

# 强制使用 TLS 1.3
openssl s_client -tls1_3 -connect example.com:443

3.4 测试特定的加密套件

1
2
3
4
5

# 测试特定的加密套件
openssl s_client -connect example.com:443 -cipher 'ECDHE-RSA-AES128-GCM-SHA256'

# 列出所有支持的加密套件
openssl ciphers -v 'ALL:!NULL:!aNULL:!MD5'

3.5 查看服务器支持的加密套件

1
2
3
4
5

# 使用 nmap 扫描服务器支持的加密套件
nmap --script ssl-enum-ciphers -p 443 example.com

# 或者使用 openssl s_server 模拟服务器查看
openssl s_server -accept 8443 -cert server.crt -key server.key -www 2>&1 | head -20

4. 常见场景与解决方案

4.1 场景一：证书过期

症状：浏览器显示"您的连接不是私密连接"，告警代码 45

诊断：

1

openssl s_client -connect example.com:443 2>&1 | grep -i "alert\|certificate"

解决方案：

  • 续期服务器证书
  • 使用 Let’s Encrypt 或其他公共 CA
  • 建立证书到期监控和自动续期机制

4.2 场景二：证书链不完整

症状：握手失败，告警代码 42 或 46

诊断：

1

openssl s_client -showcerts -connect example.com:443 </dev/null

检查输出中是否包含完整的证书链（服务器证书 + 中间证书）

解决方案：

  • 在服务器配置中正确配置证书链
  • 将中间证书与服务器证书合并
  • 使用 cat server.crt intermediate.crt > bundle.crt

4.3 场景三：协议版本不兼容

症状：握手失败，告警代码 70（protocol_version）

诊断：

1
2
3

# 测试不同版本
openssl s_client -tls1_2 -connect example.com:443 2>&1
openssl s_client -tls1_3 -connect example.com:443 2>&1

解决方案：

  • 客户端升级到支持 TLS 1.2 或 1.3
  • 服务器配置启用 TLS 1.2 和 1.3
  • 兼容旧客户端时只禁用 SSLv3 和 TLS 1.0/1.1

4.4 场景四：加密套件不匹配

症状：握手失败，告警代码 40（handshake_failure）

诊断：

1
2

# 查看服务器支持的加密套件
nmap --script ssl-enum-ciphers -p 443 example.com

解决方案：

  • 在 Nginx 中配置合适的加密套件：
1
2
3

ssl_protocols TLSv1.2 TLSv1.3;
ssl_ciphers 'ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256';
ssl_prefer_server_ciphers on;
  • 使用 Mozilla SSL Configuration Generator 生成配置

4.5 场景五：SNI 问题

症状：访问时返回错误的证书

诊断：

1
2

# 测试时指定 ServerName Indication
openssl s_client -connect 192.168.1.1:443 -servername example.com

解决方案：

  • 确保 DNS 正确解析
  • 检查 Nginx 配置中的 server_name
  • 确保每个域名都有对应的证书

4.6 场景六：客户端证书问题（mTLS）

症状：握手失败，告警代码 41 或 42

诊断：

1
2

# 测试时提供客户端证书
openssl s_client -connect example.com:443 -cert client.crt -key client.key

解决方案：

  • 确保客户端证书有效且未过期
  • 将客户端证书的 CA 加入服务器信任列表
  • 检查服务器配置的 ssl_client_certificate

5. 排查流程总结

遇到 TLS 握手失败时，可以按以下步骤排查：

步骤 1：基础检查

1

openssl s_client -connect example.com:443 -servername example.com 2>&1

查看输出的：

  • 协议版本（Protocol）
  • 加密套件（Cipher）
  • 证书信息
  • 告警信息（Alert）

步骤 2：检查证书

1
2
3
4
5

# 检查证书有效期
echo | openssl s_client -connect example.com:443 2>&1 | openssl x509 -noout -dates

# 检查域名匹配
echo | openssl s_client -connect example.com:443 2>&1 | openssl x509 -noout -subject -ext subjectAltName

步骤 3：检查 TLS 版本和加密套件

1
2
3
4
5

# 测试 TLS 1.2
openssl s_client -tls1_2 -connect example.com:443 2>&1 | grep "Protocol\|Cipher"

# 测试 TLS 1.3
openssl s_client -tls1_3 -connect example.com:443 2>&1 | grep "Protocol\|Cipher"

步骤 4：检查服务器配置

查看 Nginx 配置：

1

grep -E "ssl_protocols|ssl_ciphers|ssl_certificate" /etc/nginx/conf.d/*.conf

6. 实际案例

案例一：中间证书缺失

问题描述：用户报告某些客户端无法访问网站

排查：

1
2
3

$ openssl s_client -connect example.com:443 -showcerts </dev/null
...
Verify return code: 21 (unable to verify the first certificate)

解决：配置完整的证书链

案例二：加密套件过旧

问题描述：现代浏览器无法连接

排查：

1
2
3

$ openssl s_client -connect example.com:443
...
alert handshake failure

解决：更新服务器加密套件配置，启用 AEAD 加密算法

案例三：TLS 版本不匹配

问题描述：旧系统无法访问

排查：

1
2
3

$ openssl s_client -tls1 -connect example.com:443
...
alert protocol version

解决：评估是否需要兼容旧客户端，或升级旧系统

7. 预防措施

为避免 TLS 握手失败，建议：

  1. 证书管理：建立证书到期监控，使用自动化工具续期
  2. 配置审查：定期审查 TLS 配置，使用 SSL Labs 测试
  3. 日志监控：监控 TLS 相关错误日志，及时发现问题
  4. 测试流程：部署前使用 OpenSSL 进行兼容性测试
  5. 客户端兼容：确保客户端支持 TLS 1.2 或更高版本

8. 总结

TLS 握手失败可能由多种原因导致，包括证书问题、协议不兼容、加密套件不匹配等。通过 OpenSSL 工具可以快速定位问题原因，然后针对性地解决。

常见解决方案：

  • 证书问题：续期证书、配置完整证书链
  • 协议问题：启用 TLS 1.2/1.3，禁用废弃协议
  • 加密套件：配置强加密套件，禁用不安全算法
  • 配置错误：检查 Nginx/Apache 配置

遇到握手失败时，首先使用 openssl s_client 命令获取详细的错误信息，然后根据告警代码和错误提示进行排查。

参考来源