Si estás intentando conectar usando mosquitto_sub o mosquitto_pub desde un MacOS/X y TLS (tal y como se describe aquí: https://support.asplhosting.com/t/como-enviar-y-recibir-mensajes-con-mosquitto-sub-y-mosquitto-pub-a-myqtthub-com) y falla, sigue leyendo.
Parece que el soporte de mosquitto para MacOS/X para conectar a un sistema con TLS público no funciona directamente.
No es un problema con mosquitto sino por la forma que tiene MacOS/X de gestionar los certificados.
Tienes una descripción larga en el siguiente enlace:
En esencia, MacOS/X almacena los certificados raíz públicos en algo llamado “Keychain”, que está localizado en /Network/Library/Keychains.
Sin embargo, estos certificados están almacenados de una forma que OpenSSL no es capaz de usarlos (tienen que ser almacenados en formato PEM).
De manera que la solución es coger el contenido del /etc/ssl/certs desde una máquina Linux (una raspberry pi también funcionará), y colocar dicho contenido en una ruta accesible por el comando --capath dentro del MacOS/X.